Nexus

С компьютерами все обстоит иначе. По уровню интеллекта компьютеры значительно превосходят не только атомные бомбы, но и все предыдущие информационные технологии, такие как глиняные таблички, печатные станки и радиоприемники. Глиняные таблички хранили информацию о налогах, но они не могли самостоятельно решить, сколько налогов взимать, и не могли изобрести совершенно новый налог. Печатные станки копировали информацию, например Библию, но они не могли решить, какие тексты включить в Библию, и не могли написать новые комментарии к священной книге. Радиоприемники распространяли информацию, например политические речи и симфонии, но они не могли решить, какие речи или симфонии транслировать, и не могли их сочинить. Компьютеры могут делать все это. Если печатные станки и радиоприемники были пассивными инструментами в руках человека, то компьютеры уже становятся активными агентами, не поддающимися нашему контролю и пониманию и способными проявлять инициативу в формировании общества, культуры и истории5.

Хрестоматийным примером использования новых возможностей компьютеров является роль, которую алгоритмы социальных сетей сыграли в распространении ненависти и подрыве социальной сплоченности во многих странах. Один из самых ранних и печально известных случаев произошел в 2016-17 годах, когда алгоритмы Facebook помогли раздуть пламя насилия против рохинджа в Мьянме (Бирме).

Начало 2010-х годов стало для Мьянмы периодом оптимизма. После десятилетий жесткого военного правления, строгой цензуры и международных санкций началась эра либерализации: прошли выборы, санкции были сняты, в страну хлынули международная помощь и инвестиции. Facebook стал одним из самых важных игроков в новой Мьянме, предоставив миллионам бирманцев свободный доступ к ранее невообразимым массивам информации. Однако ослабление государственного контроля и цензуры также привело к росту этнической напряженности, в частности между большинством бирманцев-буддистов и меньшинством мусульман-рохинья.

Рохинья - мусульмане, проживающие в регионе Ракхайн на западе Мьянмы. По крайней мере с 1970-х годов они подвергаются жестокой дискриминации и периодическим вспышкам насилия со стороны правящей хунты и буддийского большинства. Процесс демократизации в начале 2010-х годов вызвал у рохинджа надежды на то, что их положение тоже улучшится, но на самом деле ситуация ухудшилась: начались волны насилия на религиозной почве и погромы против рохинджа, многие из которых были инспирированы фальшивыми новостями на Facebook.

В 2016-17 годах небольшая исламистская организация, известная как Араканская армия спасения рохинья (ААСР), совершила серию нападений с целью создания сепаратистского мусульманского государства в Ракхайне, убив и похитив десятки немусульманских гражданских лиц, а также напав на несколько армейских застав.8 В ответ армия Мьянмы и буддийские экстремисты начали полномасштабную кампанию этнических чисток, направленную против всей общины рохинья. Они разрушили сотни деревень рохинья, убили от 7 000 до 25 000 безоружных гражданских лиц, изнасиловали или подвергли сексуальному насилию от 18 000 до 60 000 женщин и мужчин, а также жестоко изгнали из страны около 730 000 рохинья. Насилие было подогрето сильной ненавистью ко всем рохинья. Ненависть, в свою очередь, разжигалась антирохиньянской пропагандой, которая распространялась в основном через Facebook, ставший к 2016 году основным источником новостей для миллионов людей и самой важной платформой для политической мобилизации в Мьянме.

Сотрудник по оказанию помощи по имени Майкл, который жил в Мьянме в 2017 году, описал типичную ленту новостей в Facebook: "Ярость против рохинья была невероятной в сети - ее количество, ее жестокость. Это было ошеломляюще.... [Это все, что было в новостной ленте людей в Мьянме в то время. Это укрепило мысль о том, что все эти люди - террористы, не заслуживающие прав". Помимо сообщений о реальных злодеяниях АРСА, аккаунты в Facebook были наводнены фальшивыми новостями о мнимых злодеяниях и планируемых террористических атаках. Популистские теории заговора утверждали, что большинство рохинья на самом деле не являются частью народа Мьянмы, а являются недавними иммигрантами из Бангладеш, прибывшими в страну, чтобы возглавить антибуддийский джихад. Буддисты, которые в действительности составляли около 90 % населения, боялись, что их вот-вот заменят или они станут меньшинством. Без этой пропаганды не было причин, по которым на ограниченное число нападений отрядов АРСА следовало бы отвечать тотальной борьбой со всей общиной рохинья. И алгоритмы Facebook сыграли важную роль в этой пропагандистской кампании.