Государство строгого режима. Внутри китайской цифровой антиутопии

К 2015 году, наблюдая за новым взлетом Microsoft, Megvii и SenseTime, китайское правительство решило поучаствовать в процессе, надеясь превратить эти стартапы в национальных лидеров в области технологий. Власти создали для стартапов венчурный фонд размером 6,5 млрд долларов, причем бóльшая часть финансирования поступала из частных источников. Доля частного венчурного капитала, ранее нехарактерного для плановой коммунистической экономики, достигла беспрецедентной величины. В январе 2015 года газета Financial Times доложила о стремительном расширении китайской индустрии частных капиталовложений и хедж-фондов: 3100 хедж-фондов контролировали почти 56 млрд долларов, а еще 2500 компаний по управлению частным капиталом – 172,5 млрд долларов.

Китай примерял новый образ: технологически развитое, доброжелательное государство, жаждущее продемонстрировать свою растущую мощь народу и компаниям.

[ ]

В этой новой маске Си Цзиньпин обратился к США, посулив перемирие в технологических войнах.

В сентябре 2015 года президент Барак Обама и председатель Си объявили о достижении договоренности об ограничении кибершпионажа между своими странами. Обама сказал Си, что китайские кибератаки, нацеленные на похищение коммерческих тайн, «должны прекратиться».

«Мы договорились, что ни правительство США, ни правительство Китая не будут осуществлять или осознанно поддерживать киберворовство интеллектуальной собственности, включая коммерческие тайны или другую конфиденциальную деловую информацию, с целью получения коммерческой выгоды», – объявил Обама на лужайке Белого дома.

Китайская кампания взломов, направленная на похищение американских корпоративных технологий, поутихла, хотя многие бывшие представители органов власти США рассказывали мне, что регулярные попытки хакерских атак на базы данных спецслужб не прекратились. Это было временное перемирие. Пауза.

[ ]

В октябре 2015 года, через месяц после заключения сделки с США по вопросам информационной безопасности, Ирфан находился в своем офисе рядом с центром управления системой видеонаблюдения, когда пришел засекреченный правительственный приказ, мотивированный законом о национальной безопасности. «Все сообщения в WeChat на территории Синьцзяна теперь должны были храниться на государственных серверах в течение двух лет», – рассказывал он.

До этого момента, с апреля 2013‐го по август 2015 года, офис Ирфана собирал метаданные из WeChat – имена пользователей, обменивавшихся сообщениями, время и дату этих сообщений, продолжительность телефонных разговоров. Отслеживался источник и адресат каждого сообщения, но не его содержание. Из метаданных можно было извлечь огромное количество информации о социальных контактах пользователей. Но теперь офис Ирфана получил указание сделать следующий шаг в сборе данных: влезть в сами сообщения.

«Программное обеспечение ИИ сканировало все, – говорил он. – Оно находило взаимосвязи, которых мы могли не заметить. Даже выискивало сообщения, содержащие такие слова, как „бомба“ и „оружие“. У человека не было времени, чтобы заниматься этим, а вот программное обеспечение ИИ справлялось».

Казалось, что некогда неэффективный надзорный аппарат зажил новой жизнью. Ирфан думал, что эта система научилась мыслить, видеть, воспринимать и понимать, хотя на самом деле до обретения полноценного разума было еще бесконечно далеко. Технология не могла продемонстрировать общий интеллект и умела действовать лишь в одной заранее запрограммированной области. Она умела выполнять только одну задачу: анализировать сообщения пользователей WeChat, выстраивая корреляции между использованием ключевых слов, таких как «Коран», «террорист» и прочих фраз, связанных с религией или насилием.

При поддержке искусственного интеллекта совершенствующая надзорная система начала сообщать случайную личную информацию пользователей сотрудникам службы наблюдения в диспетчерской.

Девушка слишком часто ходит в кино. У молодого отца могут быть проблемы с алкоголем. Мужчина проявил склонность к воровству, что следует из его текстовых сообщений. Другие подозревались в терроризме.

«Мы не понимали, каким образом ИИ приходил к своим выводам, – признавался Ирфан. – Многие из них были произвольными и вызывали у нас тревогу. Я понятия не имел, действительно ли люди, которых ИИ в чем-то подозревал, этого заслуживали».

«Как только мы стали свидетелями слияния больших данных и искусственного интеллекта, все сразу изменилось. Я получил указание от руководства перейти в другой отдел. Коллеги не хотели видеть меня в команде. Они были ханьцами, а я – одним из [немногих] уйгуров в офисе. Мне было не по себе. Сотрудники-ханьцы, возможно, думали, что я буду сливать информацию, чтобы помочь своим собратьям-уйгурам», – рассказывает Ирфан. К осени 2015 года, когда был принят Закон о национальной безопасности, все его попытки поприветствовать давних коллег или заговорить на общих собраниях начали демонстративно игнорироваться.