Новые боги. Как онлайн-платформы манипулируют нашим выбором и что вернет нам свободу

С точки зрения реинжиниринга — то есть деконструкции архитектуры, — исследователям необходимо изучить, как различные комбинации социальных сетей и freemium-игр влияют на время пребывания в сети и на степень выраженности симптомов, схожих с зависимым поведением. По сути, нам нужна разновидность A/B-тестирования, которое в больших масштабах применяется технологическими платформами. Например, с помощью A/B-тестирования компании Big Tech пытаются выяснить, как изменится время пребывания в сети, если в вариант платформы А будет встроена какая-то функция, которой нет в варианте платформы B. Зачастую пользователи даже не подозревают, что приложение, которое они видят в данный момент, отличается от версии, представленной другим пользователям. Задача многократно усложняется, если мы хотим изучить, как на интересующие нас переменные влияет совокупность трех и более факторов. Если я хочу изучить только вышеупомянутые переменные: персонализированную/неперсонализированную ленту новостей в сочетании с бесконечной прокруткой (да/нет), — то придется сравнить четыре различных варианта социальной сети (см. табл. 9.1). Здесь можно ожидать, что наибольшее время пребывания в сети будет у группы С, поскольку в эту версию приложения встроена персонализированная лента новостей с бесконечной прокруткой. Это кажется интуитивно понятным, но такие вещи необходимо проверять, чтобы лучше оценить масштаб проблем.

Табл. 9.1. Пример A/B-тестирования (в данном случае — с четырьмя экспериментальными условиями ABCD, которые сравниваются друг с другом, чтобы понять, какая комбинация элементов социальной сети способствует наиболее короткому и наиболее длительному пребыванию онлайн).

Разработка социальных онлайн-платформ, которые действительно оправдывают свое название и остаются социальными, — благое дело. Я говорю о платформах, которые позволяют поддерживать ценное общение с семьей, друзьями и коллегами в защищенном пространстве. В 2018 году Facebook попытался осторожно продвигать такую идею с помощью своих алгоритмов. Например, после запуска этой инициативы в персонализированной новостной ленте должно было отображаться больше сообщений из личной сети контактов. По крайней мере, так было заявлено; фактически это никак нельзя проверить. Заявление Марка Цукерберга: «Хочу внести ясность: нам важно не максимизировать время, которое пользователи проводят в фейсбуке, а помогать людям общаться»[577], — звучит, конечно, неплохо, но, чтобы его компании больше доверяли, следовало бы прибегнуть к независимому фактчекингу. Как это можно устроить? Я бы предложил создать неподконтрольный Meta комитет, который изучит содержимое новостной ленты нескольких тысяч случайно выбранных пользователей. Но прежде чем такой орган начнет работу, необходимо дать ответы на многие вопросы. Кто будет это оплачивать? Как будут отбирать экспертов в комиссию? Насколько обширными будут их полномочия? Мне кажется, такой орган мог бы позаимствовать принципы у комитета по психологической и медицинской этике. Приведу небольшой пример, который натолкнул меня на эту мысль.

В 2014 году ученые под руководством Адама Крамера опубликовали исследование, в рамках которого манипулировали настроением почти 690 000 пользователей фейсбука[578]. Настройки лент одних ничего не подозревающих испытуемых изменили так, что в них отображалось меньше позитивных новостей. Для других, наоборот, сократили количество негатива. Как изменилось поведение пользователей? Когда в ленте стало появляться меньше плохих новостей, читатели начали публиковать больше радостных постов. А у тех, кто видел меньше позитивных сообщений, наблюдалась противоположная картина (это также согласуется с результатами исследования смайликов в главе 8). Другими словами, содержание новостной ленты влияло на эмоциональное состояние пользователей. Допустимо ли проводить подобные исследования на таких больших группах людей — вопрос спорный. Когда выяснилось, что рабочая группа не проконсультировалась с комитетом по этике перед проведением исследования, ученых резко раскритиковали и в научных кругах, и в СМИ. Это не удивительно для таких сфер, как психология и медицина, где во главе угла стоит принцип клятвы Гиппократа — не навредить участникам исследования. Кроме того, явно имел место обман пользователей (испытуемые не знали, что участвуют в эксперименте), и, с моей точки зрения, этот вопрос также надо было предварительно согласовать. Индер М. Верма, главный редактор научного журнала PNAS, опубликовавшего результаты работы Крамера, был вынужден выступить с отдельным заявлением по поводу исследования. Выяснилось, что проект не был рассмотрен комиссией по этике, поскольку исследование проводилось на базе Facebook. Следует обратить внимание на последнее предложение в комментарии Вермы: «Вызывает обеспокоенность тот факт, что сбор данных при помощи Facebook мог включать практики, не вполне соответствующие принципам получения согласия и предоставления испытуемым возможности отказаться от участия в эксперименте»[579].