Внутри Facebook. Голая правда

Сотрудники Facebook чувствовали, что они борются с невероятным приливом дезинформации. Им было велено наклеивать ярлыки на любые сообщения, содержащие ложные сведения о голосовании. Но эти пометки, многие из которых просто перенаправляли людей в информационный центр Facebook по голосованию, были неэффективными. Мало кто читал их или переставал делиться помеченным контентом, как показали данные. «Представьте себе, если бы табачная промышленность поместила на сигареты этикетку с надписью: “У чиновников здравоохранения есть свое мнение о сигаретах. Идите по ссылке и прочитайте брошюру об этом!” Это было бы эквивалентно тому, что делали мы. Мы не говорили прямо: “Это ложь. Это бездоказательно. Вот правда”, – отметил один из членов команды безопасности Facebook. – А может, дело в том, что после нескольких лет, в течение которых Трамп мог говорить все, что хотел, люди просто привыкли видеть всякую дичь на Facebook».

Когда наступила ночь и стало ясно, что перевес голосов на выборах будет незначительным и подсчет продолжится, команда Facebook по выборам поняла, что ее работа еще не закончена. В некоторых штатах объявление победителя могло занять несколько дней или даже недель. К такому сценарию в компании были готовы, но все же надеялись, что все произойдет иначе. На следующий день после выборов команда провела виртуальную встречу с Цукербергом, на которой потребовала от него одобрить новые экстренные меры. Они включали в себя экстренное изменение алгоритма Ленты новостей, в котором больше внимания уделялось оценке «качества экосистемы новостей», так называемой NEQ (news ecosystem quality). Это был секретный внутренний рейтинг, который Facebook присваивала издателям новостей на основе сигналов о качестве их журналистики. На одной стороне спектра были издания, которые Facebook считала наиболее заслуживающими доверия, такие как The New York Times или The Wall Street Journal. На другой – такие издания, как The Daily Caller, которые неоднократно отмечались фактчекерами платформы за публикацию ложных или вводящих в заблуждение материалов. Согласно изменению, Facebook должна была корректировать свои алгоритмы таким образом, чтобы люди видели больше контента от новостных изданий с более высоким рейтингом, чем от тех, которые продвигают ложные новости или теории заговоров о результатах выборов.

Цукерберг одобрил это изменение. В течение пяти дней после голосования Facebook казалась более спокойной и не такой противоречивой платформой. «Мы назвали это “приятной Лентой новостей”, – сказал один из членов команды, занимавшейся выборами. – Это было мимолетное видение того, чем могла бы быть Facebook». Несколько человек из команды спросили, можно ли сделать «приятную Ленту новостей» постоянной.

Но к концу месяца старый алгоритм постепенно вернули. Гай Розен, глава отдела целостности Facebook, подтвердил, что изменения с самого начала носили временный характер: это была экстренная мера, принятая в разгар критических выборов. Втихомолку руководители компании беспокоились о том, как отреагируют консерваторы, если ряд известных правых изданий будет понижен в статусе на постоянной основе. Также высказывались опасения в связи с тем, что изменения в Facebook привели к уменьшению сеансов: пользователи проводили меньше времени на платформе. В течение прошлого года специалисты по обработке данных компании незаметно проводили эксперименты, в ходе которых проверяли, как пользователи Facebook реагируют на контент, относящийся к одной из двух категорий: «хорошо для мира» или «плохо для мира». Эксперименты, которые были опубликованы на Facebook под заголовком «P (Bad for the world)», позволили снизить видимость сообщений, которые люди считали «плохими для мира». И хотя их позиции в Ленте новостей заметно упали, и пользователи могли видеть больше «хороших для мира» постов, исследователи данных обнаружили, что люди стали открывать Facebook гораздо реже.

Метрика сеансов оставалась сокровенной целью для Цукерберга и команды инженеров. Группу попросили вернуться к настройкам и подкорректировать их. Они стали менее агрессивно удалять «плохие для мира» посты и постепенно количество сеансов стабилизировалось. Команде сказали, что Цукерберг одобрит умеренные изменения, но только после подтверждения того, что новая версия не приведет к снижению вовлеченности пользователей.

«Все сводилось к тому, что мы не должны были навредить нашим доходам, – заметил специалист по данным Facebook, работавший над изменениями. – Марк по-прежнему хотел, чтобы люди пользовались Facebook как можно чаще и как можно дольше».