Внутри Facebook. Голая правда

Когда спустились сумерки, начались столкновения между протестующими и группой вооруженных людей, которые называли себя «Гвардия Кеноши». В 23:45 по местному времени в Кеноше двоих человек застрелили, а третий был ранен молодым человеком, предположительно имевшим при себе винтовку AR-15.

В тот вечер Цукерберг получил уведомление о стрельбе и возможной связи события с Facebook. Он попросил свои команды по политике провести расследование. За шесть дней до этого платформа приняла политику запрета именно таких экстремистских групп и ополчений. «Почему, – спросил Цукерберг, – страница в Кеноше не была удалена?»

На следующее утро, когда новостные издания со всех концов США обратились в Facebook за комментариями, он получил ответ. Страница в Кеноше действительно нарушала правила Facebook, но модераторы еще не были обучены тому, что нужно делать в таком случае.

PR-команда Facebook сообщила журналистам, что платформа удалила страницу Кеноши и что стрелок не был ее подписчиком. Оба заявления искажали истину. Хотя стрелок действительно не подписывался на Kenosha Guard, он был активен на Facebook и в прошлом смотрел и комментировал страницы, посвященные полиции. И хотя Facebook удалила мероприятие в ночь на 25 августа, на самом деле она не предприняла никаких действий в отношении Kenosha Guard. Один из администраторов страницы удалил ее самостоятельно²²³.

На следующий день на встрече «Вопросы и ответы» Цукерберг сказал, что произошла «операционная ошибка», связанная с модераторами контента, которые не были обучены передавать подобные сообщения специализированным группам. Он добавил, что при повторном рассмотрении ответственные за опасные организации лица поняли, что страница нарушает политику компании, и «мы ее удалили». Объяснение Цукерберга не понравилось сотрудникам, которые посчитали, что он обвиняет модераторов, самых низкооплачиваемых контрактных работников в карьерной системе Facebook. А когда один из инженеров написал на форуме Tribe, что Цукерберг сказал неправду о том, кто на самом деле удалил страницу, многие посчитали, что их ввели в заблуждение. «И снова Марк отнесся к этому как к единичной ошибке. Он пытался свалить вину на других. Он не мог понять, что в Facebook что-то систематически не так, раз такая группа вообще может существовать, не говоря уже о создании мероприятия и постах участников, открыто призывающих стрелять и убивать людей», – сказал один инженер, который повторил эти опасения своему руководителю, но получил в ответ рекомендацию «набраться терпения», пока Facebook реализует свои новые правила.

В последующие недели правые группы сплотились вокруг стрелка из Кеноши. В его честь были созданы фан-страницы на Facebook, а его поступок восхвалялся как действия настоящего патриота. В течение месяца Facebook удалила более 6500 страниц и групп, посвященных ополченцам. Как только одна страница удалялась, на ее месте появлялось несколько других, обходя автоматические системы, запрограммированные на их обнаружение.

Кризис в Кеноше высветил все уязвимые места платформы. Сбивая людей в группы, Facebook дала возможность маргинальным движениям, включая ополченцев и поклонников теорий заговоров, организовывать и вербовать последователей на сайте. Даже когда Facebook предприняла шаги по введению прямого запрета, многим удалось найти лазейку, что привело к кровопролитию. Цукерберг и Facebook продолжали разбираться с группами в индивидуальном порядке, но это означало, что меры принимались лишь после того, как группа становилась проблемой.

Комментарий одного из его опытных инженеров на форуме Tribe был передан Цукербергу через менеджеров компании. «Если мы развалим демократию, это станет единственным, за что нас будут помнить, – написал тот, сетуя на острую ненависть, политиканство и дезинформацию, наводнившие Facebook. – Разве такое наследие мы хотим оставить после себя?»

В течение шести дней в октябре 2020 года Facebook сделала два больших заявления. 6 октября компания объявила о полном запрете QAnon на сайте. А 12 октября было объявлено о правилах насчет дезинформации о холокосте. Втихомолку, не афишируя этого, Facebook удаляла тысячи групп ополченцев. Цукерберг отступался от своих давних убеждений в отношении свободы слова, но никто в компании, включая его самого, не сформулировал это как последовательное изменение политики. На встрече «Вопросы и ответы» 15 октября он ответил отрицательно на вопрос, изменил ли он своим принципам: «Многие прислали один и тот же вопрос: почему мы делаем это сейчас? В чем причина, и отражает ли это изменение в нашей основной философии? Поэтому я хотел бы, пользуясь возможностью, поговорить об этом прямо. Вот мой ответ: нет, это не означает, что мы изменили свою основополагающую философию или перестали всеми силами поддерживать свободу слова. Это реакция на повышенный риск насилия и беспорядков».