Государство строгого режима. Внутри китайской цифровой антиутопии

«Мы можем услышать и увидеть все, – говорил девушке этот тюремщик. – На полу расположены сенсоры. Мы знаем, куда люди ходят. Мы знаем, когда они мочатся. Камеры – повсюду, и они знают, что делает каждый. Мы видим любую мелочь. Даже то, что ты пишешь…»

А еще была система искусственного интеллекта – всего лишь фрагмент общей надзорной системы «Скайнет», раскинутой по всему Китаю. Порой охранники объясняли, на что она способна.

«Она может понять, что вы бездельничаете на уроке, – рассказывал один из них. – Она видит, когда вы усердно работаете. Так система искусственного интеллекта помогает нам разобраться, как поступить с каждым из заключенных».

Камеры были установлены в женских туалетах и душевых. Охранники-мужчины, рассказывала Майсем, наблюдали за происходящим и слышали каждый звук. Однажды ей удалось заглянуть в открытую дверь диспетчерской, где располагались мониторы, на которые выводились записи с камер лагеря, и самой в этом убедиться.

Майсем с опаской относилась к другим заключенным и сводила свое общение с ними до минимума: она никому не доверяла. Тюремная камера и внутренний двор, столовая и классная комната – все словно было окутано серым облаком компьютеризации. Люди были машинами, а машины – людьми, воспринимающими окружающий мир посредством технологий распознавания лиц, – по крайней мере, так казалось Майсем.

«У людей не было ни личности, ни сущности, ни души, – рассказывала она мне. – Я начала осознавать, что машины стали больше походить на людей, чем сами люди. По сути, правительство сказало нам, что полностью контролирует нашу безопасность. Они понимали, что такое „большой мозг“ и как он работает. Они контролировали технологии, и поэтому нам приходилось подчиняться их воле».

[ ]

Становление надзорного государства принесло огромную финансовую выгоду китайским компаниям, занимающимся вопросами ИИ. В декабре 2016 года стартап в области технологий распознавания лиц Megvii, пятью годами ранее основанный бывшими сотрудниками Microsoft Research Asia, получил от инвесторов 100 млн долларов. Tencent, разработчик WeChat, стоимость которой на начало года оценивалась в 180 млрд долларов, устроила инвестиционный кутеж, влив более 21 млрд в стартапы из самых разных областей – от онлайн-игр до агрегаторов такси и секвенирования генома.

Разрозненные китайские стартапы, накапливающие богатство и влияние, наконец обрели потенциал для создания общенациональной экосистемы, способной слить воедино большие данные, распознавание лиц и искусственный интеллект.

Развитие ИИ в Китае подстегнуло го, любимая настольная игра китайцев.

Долгое время специалисты в области ИИ считали го безнадежно сложной игрой (в ней используется 361 камень), для которой нельзя написать софт, способный победить человека. Количество возможных позиций на доске превышает количество атомов в наблюдаемой Вселенной, а значит, искусственному интеллекту потребовались бы невероятная вычислительная мощность и способность к распознаванию образов.

В 2014 году Google, инвестировавшая в развитие ИИ с самого начала своей деятельности в 1998‐м, приобрела стартап DeepMind. Основанная тремя блестящими инженерами, включая шахматиста-вундеркинда, компания DeepMind создала программу искусственного интеллекта под названием AlphaGo.

Программисты хотели проверить, сможет ли AlphaGo самостоятельно, без помощи человека, научиться играть в эту сложнейшую игру. Для этой цели они разработали новую версию программы AlphaGo, которая не нуждалась в том, чтобы в нее закладывали информацию. Она должна была самостоятельно изучить игру, а затем сразиться с чемпионами мира.

Дальше произошло нечто поразительное. После семидесяти часов игры сама с собой новая программа AlphaGo достигла такого уровня, что оказалась способна побеждать лучших игроков-людей. Затем, после перезагрузки, AlphaGo потребовалось всего сорок дней, чтобы освоить всю сумму знаний человечества об игре го. После этого она обыгрывала свою предыдущую самую продвинутую версию в 90% случаев.

Разработчики были озадачены. Даже они плохо понимали, как новой версии AlphaGo удалось добиться такого прогресса за столь короткое время.

Эти открытия могли иметь огромные последствия для будущего. Если ИИ сопоставимого уровня применить в других областях, он сможет изменить то, как мы работаем, живем, водим машину, ходим за покупками, принимаем пищу и даже как ведем переговоры и воюем. Система ИИ AlphaGo близко имитирует мышление, лежащее в основе ведения войн, и в конечном счете может получить применение на поле боя. В Китае мало задумывались об этом, пока AlphaGo не была проверена в игре против сильнейших игроков мира, большинство из которых проживали в Восточной Азии.