Государство строгого режима. Внутри китайской цифровой антиутопии

На следующий день я прилетел в Кашгар, где встретился со своим гидом Мансуром (имя изменено из соображений безопасности). Это был дружелюбный и хорошо осведомленный человек, чью жену по совершенно неясным причинам чуть ли не ежедневно заставляли посещать многочасовые уроки патриотизма. Мансур хотел поделиться своей историей с внешним миром. Он рассказал мне, что его жена в течение «нескольких месяцев» ходила на занятия, где штудировала и заучивала наизусть государственную пропаганду.

«Давайте я расскажу вам о „Ситуации“», – начал он.

В первый из четырех дней, проведенных вместе, мы отправились в поездку по заснеженным, покрытым песчаником окрестностям Кашгара, подальше от камер и любопытных глаз.

«Работа гидом – это моя связь с внешним миром, – объяснил он. – Только так я сохраняю рассудок и не схожу с ума».

«Они называют ее [систему наблюдения] „Скайнет“». Название прозвучало зловеще, не в последнюю очередь потому, что именно такое имя носит искусственный интеллект, управляющий миром, в антиутопическом будущем фильмов о Терминаторе.

Три из шести часов, в течение которых мы в полном одиночестве карабкались по горам, Мансур, бизнесмен по образованию и человек, хорошо разбирающийся в текущих событиях, рассказывал мне о трех этапах создания идеального полицейского государства. Я сократил и во многих местах перефразировал его наблюдения.

Шаг первый, говорил он, заключается в том, чтобы определить врага – меньшинства, иммигрантов, евреев или, в данном случае, мусульман – и обвинить их в своих проблемах. Убедите свой народ, что эти враги повсюду и «что они угрожают силе и чести вашей нации».

Шаг второй – получить контроль над технологиями, чтобы следить за своими врагами. На первых порах руководители технологических компаний, если их прибыли высоки, будут делать вид, что все это не имеет к ним отношения, но начнут сотрудничать, как только их прибыли станут снижаться, потому что им понадобится поддержка государства.

Это поможет установить камеры и запустить социальные сети, способные собирать информацию о ваших врагах: черты лица, ДНК, записи голоса, а также данные о том, чем эти люди занимаются в интернете. «Распространяйте фальшивые новости о своих врагах в социальных сетях и приложениях». Цель – создать атмосферу истерии, обвинений и паранойи.

На втором шаге, объяснил он, есть один нюанс. Новые технологии в области ИИ и распознавания лиц почти всегда будут несовершенными. Возможно, новое программное обеспечение или устройства не настолько эффективны или умны, как нам кажется, и не способны с легкостью выслеживать подозреваемых в преступлении. Но из этих технологических несовершенств можно извлечь выгоду.

«Но каким же образом?» – спросил я.

Скрыть и запутать то, как функционируют технологии. Использовать жизнерадостный «новояз», делающий технологию непостижимой для обычного человека.

«Суть не только в том, чтобы заставить людей бояться, – сказал Мансур. – Лишить их уверенности – вот лучший способ держать под контролем».

Третий шаг – непростой для любого режима. Мансур принялся объяснять, какую выгоду можно извлечь из параноидального мира постправды, создаваемого при помощи технических средств. Используя камеры, искусственный интеллект, системы распознавания лиц и речи, «страну можно превратить в паноптикон».

«Что такое паноптикон?» – удивился я.

Паноптикон – это тюрьма, построенная в форме круга, из сторожевого поста в центре которой охранник может наблюдать за всеми заключенными, но никто из них не может видеть охранника, ответил Мансур. Это эффективный инструмент для контроля над людьми: им кажется, что за ними наблюдают, но они не знают, в какой момент и откуда. Идея паноптикона принадлежит британскому философу XVIII века Джереми Бентаму, оказавшему влияние на Джорджа Оруэлла.

«И как это работает сейчас, – спросил я, – здесь, в Синьцзяне?»

«Вы уже видели. Повсюду развешаны камеры, смартфоны и компьютеры взламываются, всех заставляют сканировать ID при входе на рынки и в школы, родственников и друзей вербуют и принуждают доносить друг на друга. Кроме того, каждому присваивается социальный рейтинг для оценки степени благонадежности».

Следующий этап, объяснил Мансур, – «применяйте правила произвольно». Отправляйте врагов в концентрационные лагеря даже за такие незначительные нарушения, как ужин с человеком с низким социальным рейтингом.

«Общество быстро разрушается», – продолжал он. Отгороженные от фактов и правды, постоянно находящиеся под наблюдением, большинство людей не могут отличить врагов от друзей и не обладают информацией, которая необходима, чтобы бросить вызов режиму. Друзья предают друзей, начальники доносят на подчиненных, учителя сдают своих учеников, а дети – родителей. Каждый вынужден обращаться за защитой к государству.

Итак, технологии, используемые таким образом, больше не высвобождают лучшее, что в нас есть. Они становятся тюрьмой, потворствующей самым темным нашим побуждениям. А люди, контролирующие технологии, в Китае контролируют и народ.

[ ]