Государство строгого режима. Внутри китайской цифровой антиутопии

К лету 2019 года жизнь Майсем пришла в норму. Она говорила мне, что возможность рассказать свою историю стала для нее своеобразной терапией, способом примириться с перенесенными страданиями. «Но я все равно переживаю, – признавалась она мне. – В Турции мы не всегда будем в безопасности».

Она надеялась получить ученую степень в США.

«Это моя мечта, – говорила она. – Я хочу заниматься наукой».

До тех пор, пока этого не произошло, Майсем пришлось поволноваться – она тоже могла столкнуться с неприятностями в Турции. Почти каждый месяц в течение 2019 и 2020 годов я с тревогой открывал новостную ленту и каждый раз читал о том, как множество уйгуров задерживали, а иногда и депортировали в Китай. Еще один уйгурский писатель, у которого я брал интервью, Абдурехим Имин Парач, в марте 2020 года сидел в уйгурском ресторане в Стамбуле, когда полицейские в штатском арестовали его без каких-либо объяснений.

«Они отвезли меня за сотни километров в какое-то здание без отопления, – рассказывал он мне. – А потом отпустили, не объяняя причин [три месяца спустя]. Сказали, чтобы я не критиковал Китай».

Что ждет нас в будущем? Наблюдатели за Китаем сходятся в следующем: нам стоит ожидать, что Коммунистическая партия будет вести себя в других местах так же, как у себя дома. Экспорт социального контроля в стиле Синьцзяна будет наихудшим и вряд ли таким уж невообразимым сценарием.

Эпилог Разрушить паноптикон

Наблюдая за наступлением тоталитаризма, разгаром мировых войн и геноцида в ХХ веке, некоторые из самых прозорливых писателей пришли к заключению, что мир превратится в антиутопию, если мы не предпримем какие-то меры. В книге «О дивный новый мир», написанной в 1931 году, Олдос Хаксли создал образ мирового государства, с детства подвергающего людей индоктринации в рамках жесткой кастовой системы при помощи наркотика, вызывающего состояние эйфории и заставляющего забыть о безысходности существования в антиутопии XXVI века. Семнадцать лет спустя, в 1949 году, Джордж Оруэлл опубликовал «1984», описав уже откровенно фашистское государство, контролирующее свой народ с помощью паноптикона.

Другие книги еще точнее предсказали сегодняшнюю жизнь. В менее известном романе «Всем стоять на Занзибаре», опубликованном в 1968 году, американский писатель-фантаст Джон Браннер поразительным образом предвидел, что в 2010 году мир окажется перенаселен, 7 млрд его обитателей будут читать короткие порции новостей и общаться в реальном времени при помощи социальной сети, похожей на твиттер, а Китай станет главным соперником США.

Авторы научно-фантастических произведений задавались вопросом: «Что, если?..» Их целью было нарисовать образ будущего, повернувшего куда-то не туда, и тем самым побудить своих читателей тщательнее обдумывать решения, непосредственно влияющие на завтрашний день. Решения, способные либо подтолкнуть общество к антиутопии, либо помочь ему выбрать более правильный путь. Синьцзян стал воплощением именно того антиутопического будущего, которое представляли себе фантасты.

Пришло время отказаться от вопроса «Что, если?..» Теперь мы должны спросить: «Что нам с этим делать?»

Мы сильно отстали в поиске способов контролировать технологии, которые настолько глубоко проникли в нашу повседневную жизнь, что зачастую мы их даже не замечаем. Десятилетие прогресса в области создания смартфонов, коммуникации в социальных сетях и электронной коммерции поставило мир на порог очередной технологической революции. Искусственный интеллект, в определенных областях уже достигший сверхспособностей, вскоре может превзойти возможности человека.

Впрочем, видные футурологи и технические специалисты сомневаются, что ИИ сможет уподобиться человеческому мозгу в ближайшем будущем. Тем не менее полагать, что ИИ не преуспеет в этом начинании, а тактика слежения, используемая в Синьцзяне, не найдет применения во многих уголках мира, – неоправданный оптимизм. ИИ, слабо регулируемый и плохо изученный, уже повсюду – отслеживает наши покупки и клики в интернете, учится корректировать наше поведение. Он умеет управлять самолетами, принимать решения об инвестициях на миллиарды долларов, расшифровывать электрокардиограммы и организовывать производственные процессы.

«Если все интеллектуальное программное обеспечение в мире вдруг перестанет функционировать, современная цивилизация остановится», – предсказывал футуролог Рэй Курцвейл еще в 2005 году, когда ИИ был гораздо менее сложен и не так вездесущ.

Таким образом, вопрос не в том, проникнет ли слежка на основе ИИ в наше общество в ближайшем будущем. Вопрос в том, хватит ли у властей и предприятий, владеющих ценной интеллектуальной собственностью, возможностей, чтобы контролировать ИИ в интересах защиты демократии. Не пойдут ли они на поводу у акционеров, требующих увеличения прибыли, или государства, стремящегося повысить безопасность в целях борьбы с пандемиями и преступностью?