2062: время машин

Основатель Facebook заявлял, что хочет объединить людей[107]. Однако продажа политической рекламы, рассчитанной на небольшие группы, имеет противоположный эффект: разделяет сообщество, не позволяет миру объединиться.

Facebook очень много сделал для того, чтобы поляризовать мир. Тереза Вонг, «цифровой гуру» кампании Трампа, описала то, как Facebook помогал агитировать избирателей в фильме BBC 2017 года[108]. Она показала столы в офисе Cambridge Analytica в Сан-Антонио, где сидели сотрудники Facebook, помогавшие Cambridge Analytica агитировать сомневающихся избирателей. «Когда в подобные платформы вливаешь миллионы и миллионы долларов, то получаешь многое взамен, – говорит она BBC. – Без Facebook мы бы не победили. Он действительно помог нам совершить финальный рывок».

Если мы не будем осторожны, политика в 2062 году будет определяться такими технологиями. Большие данные из социальных сетей и других источников будут использоваться теми, у кого умнее алгоритмы, и помогут им завоевать власть и влияние. Такие неприятные фигуры, как Трамп, который стал президентом США, или такие неоднозначные решения, как Брекзит, могут быть лишь началом.

Боты

Не только Facebook меняет природу нашего политического дискурса. Другие социальные медиа тоже имеют немалое влияние. Одна из таких социальных сетей – Twitter. Его сила настолько велика, что даже звучали призывы заблокировать там Дональда Трампа[109]. Однако наибольшее влияние в Twitter имеют не люди, а компьютеры.

У Дональда Трампа 48 миллионов подписчиков в Twitter. Однако установлено, что 14 миллионов из них – фальшивые страницы. Издание The New York Times имеет похожие цифры: из 41 миллиона подписчиков около 11 миллионов – фейки. Любопытно, что папа римский Франциск имеет худшие показатели, чем Трамп или New York Times. Из 17 миллионов его подписчиков больше половины – почти 10 миллионов – фейки. Логично, что у президента Российской Федерации ситуация еще более удручающая. Из 2,5 миллиона подписчиков Путина около шестидесяти процентов (1,5 миллиона) – ненастоящие[110].

Одна из опасностей, связанных с этими ботами, заключается в том, что к 2062 году человеческие голоса могут затеряться в океане компьютерных. Очевидно, что уже сейчас боты имеют огромное влияние. В 2017 году Федеральная комиссия по связи США (FCC) прокомментировала противоречивую проблему сетевого нейтралитета. Эта идея заключается в том, что все данные в интернете должны оцениваться одинаково. Нельзя отдавать предпочтение доставке ваших электронных писем, или загрузке моего видео на YouTube, или осуществлению чьего-либо диалога в WhatsApp. Из 22 миллионов комментариев относительно сетевого нейтралитета, полученных FCC, более восьмидесяти процентов поступило от ботов[111]. Люди, оставляющие комментарии, в основной своей массе поддерживают идею сетевого нейтралитета; неудивительно, что боты по большей части оставляют комментарии против этой идеи[112].

Есть, однако, один бот, к которому я отношусь положительно. Новозеландская фирма Netsafe, занимающаяся кибербезопасностью, создала чат-бота под названием Re: scam. Всякий раз, когда вы получаете электронное письмо от нигерийских мошенников, пересылайте его на адрес me@rescam.org. В этом случае чат-бот начинает отвечать мошенникам вместо вас и делает все, чтобы потратить как можно больше их времени.

Компьютеры, притворяющиеся людьми, имеют длинную историю в области ИИ. Знаменитый тест Тьюринга для определения, может ли компьютер мыслить, заключается в том, чтобы заставить его изображать человека. Каждый день нас просят сделать капчу для доказательства, что мы люди.

Однако когда ИИ станет разумнее, нам будет все сложнее отличить компьютер от человека. На самом деле, в случае с Дональдом Трампом мы уже приблизились к этому моменту. Брэдли Хэйес, исследователь лаборатории компьютерных технологий и искусственного интеллекта МТИ, использовал машинное обучение, чтобы создать в Twitter бота под названием @DeepDrumpf[113]. Он обучал его на материале расшифровок речей Трампа. Сейчас он пишет примерно такие же твиты, как президент США.