Государство строгого режима. Внутри китайской цифровой антиутопии

«Мы будем работать быстрее, чтобы превратить Китай в державу с передовой промышленностью, ускоренными темпами развивать передовые обрабатывающие производства, содействовать углубленной интеграции интернета, больших данных, искусственного интеллекта и реального сектора экономики, – объявил Си, – а также культивировать новые источники роста и новые драйверы развития в сфере потребления среднего и высокого уровня, где ведущая роль принадлежит инновациям, в области „зеленого“ и низкоуглеродного развития, долевой экономики, современных цепочек снабжения и сферы услуг, связанных с человеческим капиталом».

Правительство приступило к работе, создав «национальную команду по развитию ИИ», призванную претворить мечту в жизнь. Выбор Министерства науки и технологий пал на компании-гиганты в области ИИ Baidu, Alibaba и Tencent – трио под названием BAT, а также iFlyTek, лидера индустрии технологий распознавания голоса. Позже к ним добавилась SenseTime, специализирующаяся на умных системах визуального отображения.

В течение десятилетия и даже больше китайское правительство поддерживало многие компании в области ИИ, предоставляя им финансовую и политическую помощь. Государственная поддержка проектов ИИ расширялась до невиданных масштабов; началась золотая лихорадка. Многие руководители китайских высокотехнологичных компаний говорили мне, что хотели сразу оседлать эту волну, а мысли о последствиях отложили на потом. Если бы они действовали нерасторопно, их опередили бы конкуренты.

Многие из членов руководства Megvii решили, что настало идеальное время, чтобы расшириться и любой ценой победить своего конкурента SenseTime, воспользовавшись поддержкой государства.

«Вы должны понимать, что стартапы плывут по течению истории. Мы – заложники истории, а не ее творцы», – говорил мне руководитель научно-исследовательского отдела Megvii.

«Мы взлетели, когда получили госфинансирование после AlphaGo, – сказал он. – В Megvii влили 430 млн долларов. Мы разрослись в пять или шесть раз и уже не помещаемся в нашем маленьком одноэтажном офисе».

«Сначала бизнесу нужно выжить, а уже потом мы сможем заняться выработкой моральных ценностей. Мы не можем использовать одну точку зрения, импортированную из другой страны [США], в качестве жизненного стандарта всех человеческих существ, – сказал он мне. – Если один стандарт подходит всем, то бизнес просто не выживет. Я не хочу обсуждать, кто прав, а кто виноват».

Руководители SenseTime были с этим согласны. Они хотели победить Megvii.

«Главное – получить как можно большую долю рынка, чтобы занять сильную позицию, – говорил мне один из сотрудников SenseTime. – Если мы не воспользуемся возможностями раньше конкурентов, то окажемся в трудном положении, нам придется их догонять. Поэтому наша стратегия – любой ценой запустить как можно больше проектов».

Компании не сильно заботились о том, каким образом могут быть использованы их технологии: «Если вы сближаетесь с правительством, то получаете больше государственных проектов, что помогает увеличить вашу долю рынка. Сближение с правительством – обязательный пункт».

Когда журналисты поинтересовались у разработчиков ИИ, будет ли Китай использовать их технологии, чтобы ограничить права человека, они получили примерно такой ответ: «Это не наше дело».

«Как венчурный инвестор, скажу: мы не инвестируем в эту область, и мы не занимаемся детальным изучением этой конкретной проблемы», – сказал позже глава Sinovation Ventures Кай-Фу Ли в интервью 60 Minutes.

К 2017 году Китай вступил на путь стремительного развития искусственного интеллекта при содействии государства. Коммерческие компании, такие как SenseTime и Megvii, больше не выбирали, в каком направлении совершенствовать технологии ИИ – для мессенджеров, слежки или онлайн-шопинга, – чтобы затем по запросу продавать свои услуги государству. Теперь стратегию развития ИИ – в угоду национальным интересам – диктовало само правительство. Компании должны были присоединиться или остаться на обочине истории.

Глава 16 Бюрократия разрастается, чтобы обслуживать бюрократию

Объект преследования – это преследование. Объект пыток – это пытки. Объект власти – это власть.

Джордж Оруэлл «1984»

[21]

Майсем провела в лагере уже неделю. Она лежала в постели, не в силах уснуть, размышляя о задании, которое дал ей партийный чиновник: подумать, почему она здесь. Она не знала, как ответить на этот вопрос. Охранники сказали ей, что чиновник вернется на следующее утро.

Майсем то проваливалась в сон, то снова просыпалась; мысли метались и путались. Она думала, что сказала бы ее мать, окажись та на месте дочери. Девушка снова задремала и увидела себя за стенами лагеря. Потом появилась ее мать на велосипеде.

«Нам пора!» – сказала она.