Внутри Facebook. Голая правда

В течение нескольких часов YouTube удалил ролик, сославшись на то, что он нарушает политику борьбы с дезинформацией¹⁸⁹. Тем временем СМИ обратили внимание на фальсифицированное видео. В статьях в газете The Washington Post и других изданиях рассказывалось о технических манипуляциях. Ученые и законодатели объявили ситуацию лакмусовой бумажкой для платформ социальных сетей в преддверии президентских выборов 2020 года.

В ответ на сообщение о том, что YouTube удалил видео, Пелоси спросила своих сотрудников: «А что же Facebook?» Видео все еще висело на нескольких сайтах, включая крайне правые новостные издания и маргинальные форумы, но именно на Facebook оно приобретало все большую популярность.

Facebook, по словам ее помощников, замолчала. Никто не отвечал на их звонки.

Пелоси была ошеломлена. У ее офиса были особенно тесные связи с компанией. Кэтлин О’Нил, бывший руководитель аппарата Пелоси, была одним из самых высокопоставленных демократических лоббистов Facebook. Другие сотрудники были выходцами из администрации Обамы и работали на сенатора Файнстайн и бывшего сенатора Джона Керри. Начинало казаться, что эти связи не имели никакого значения.

Демократы незамедлительно бросились на защиту Пелоси. Представитель Род-Айленда Дэвид Цициллин написал в Twitter вскоре после публикации видео: «Эй, @facebook, вы облажались. Опять. Исправьте это немедленно!»¹⁹⁰ Сенатор Брайан Шатц обвинил платформу в лицемерии: «Facebook мгновенно отзывается, когда я хочу поговорить о федеральном законодательстве, и вдруг набирает воды в рот, когда мы спрашиваем их, что они сделали для решения проблемы с фальшивым видео. Дело не в том, что они не могут решить эту проблему; дело в том, что они отказываются делать то, что необходимо»¹⁹¹.

В четверг Цукерберг и Сэндберг в Менло-Парке и Каплан в Вашингтоне встретились по видеосвязи, чтобы продумать ответ. Ни механизм проверки фактов, ни искусственный интеллект, о котором Сэндберг рассказывала Пелоси, не пометили видео на предмет ложного содержания и не предотвратили его распространение. Как оказалось, фильтры и средства обнаружения Facebook было легко обмануть при помощи весьма простых обходных инструментов. Всего за несколько месяцев до этого системы платформы не смогли идентифицировать и удалить ужасающие кадры, снятые преступником с оружием в руках от первого лица в Крайстчерче, Новая Зеландия. 17 марта он открыл огонь по верующим, собравшимся в двух мечетях, убив 51 человека. Это было видео, снятое и рассчитанное на вирусное распространение, и стрелок включил в него несколько ссылок на группы заговорщиков и ненавистников на Facebook, члены которых, как он знал, наверняка будут продвигать кадры убийства, как только он разместит их на сайте.

В течение двадцати четырех часов Facebook пыталась сдержать распространение копий видео, которые были размещены на сайте. Из 1,5 млн копий, которые люди пытались загрузить в соцсеть, Facebook обнаружила и удалила 1,2 млн. Осталось 300 000 копий видео, некоторые из которых оставались на платформе в течение нескольких минут, другие – в течение нескольких часов. Хотя компания хвасталась, что ей удалось удалить более 90 процентов всех загруженных видео, оставшихся копий, восхваляющих жестокую бойню, было слишком много. Это показало, что пользователи могут обойти системы Facebook. Внося небольшие изменения, например замедляя скорость видео на миллисекунду или накладывая водяной знак на его часть, люди смогли обмануть хваленый ИИ Facebook. Некоторые пользователи просто снимали новые видео этой копии, которые появлялись в верхней части Лент новостей и вызывали миллионы комментариев и сообщений в закрытых группах.

Массовое убийство в Крайстчерче продемонстрировало, насколько несостоятельна была ставка Цукерберга на технологические решения. Правительственные чиновники Франции, Великобритании и Австралии осудили платформу за то, что она позволяет использовать свои инструменты в качестве оружия. Несколько стран предложили ввести новые законы о свободе слова после массового убийства. Макрон и Джасинда Ардерн, премьер-министр Новой Зеландии, взяли на себя инициативу и призвали провести глобальный саммит, чтобы положить конец насилию и ненависти в интернете¹⁹².

Но сфальсифицированное видео с Пелоси выявило нечто большее, чем недостатки технологии Facebook для предотвращения его распространения. Оно продемонстрировало внутреннее замешательство и разногласия по вопросу спорного политического контента. Руководители, лоббисты и сотрудники отдела коммуникаций провели весь следующий день в неспешных дебатах. Сэндберг сказала, что, по ее мнению, есть веские аргументы в пользу удаления видео в соответствии с правилами борьбы с дезинформацией, но на этом она остановилась. Каплан и республиканские лоббисты поддержали «максимально открытую» позицию Цукерберга в отношении свободы слова и подчеркнули, что важно быть нейтральными в вопросах политики и выполнять обещания компании о защите свободы слова.