Власть роботов. Как подготовиться к неизбежному

Ничто из описанного не ограничивается самим Китаем. Экспорт технологий слежки играет ключевую роль в общей стратегии китайских властей по преобразованию производства в стране и переходу от малодоходных товаров массового потребления к технологическим продуктам более высокой ценности. Китаю принадлежит почти половина глобального рынка технологий распознавания лиц. Во многом это заслуга одной китайской фирмы, телекоммуникационной компании Huawei. По данным Фонда Карнеги за международный мир на сентябрь 2019 года, Huawei продала технологии слежения, в том числе системы распознавания лиц, по меньшей мере 50 странам и 230 городам — намного больше любой другой компании. Для сравнения: ее самые близкие американские конкуренты — IBM, Palantir и Cisco — установили системы менее чем в десятке стран каждая[273]. Такие авторитарные государства, как Саудовская Аравия и Объединенные Арабские Эмираты, особенно заинтересованы в китайской технологии, поскольку устанавливают системы слежки на всей своей территории. Там распознавание лиц зачастую уже элемент повседневности. Я убедился в этом лично в ходе поездки в Абу-Даби в начале 2019 года, где услышал широко освещаемую историю о богатой женщине, потерявшей дорогое кольцо. Она сообщила о потере властям, те немедленно применили программу распознавания лиц к снимкам, сделанным в ходе слежения за соответствующей территорией, и всего через несколько часов после случившегося постучали в дверь человека, подобравшего кольцо.

Продажи оборудования Huawei для слежения часто финансируются кредитами, обеспеченными китайскими властями. Такие страны, как Кения, Лаос, Монголия, Уганда, Узбекистан и Зимбабве, приняли участие в этой программе. В некоторых случаях она осуществлялась в рамках глобальной инициативы Пекина «Один пояс — один путь» по финансированию инфраструктурного строительства почти в 70 странах. Все более важным центром активности становится Африка, где, по некоторым данным, китайские системы распознавания лиц уже приносят эффект. Например, Huawei утверждает, что внедрение ее технологии в столице Кении Найроби и ее пригородах привело в 2015 году к снижению уровня преступности на 46 %[274].

Вопрос последствий внедрения созданных китайскими компаниями технологий для безопасности и прав человека уже вызвал серьезные разногласия между Китаем и Соединенными Штатами. В мае 2019 года на Huawei были наложены торговые ограничения, которые вылились в запрет продавать этой компании американские технологии, в частности программное обеспечение и компьютерные процессоры. Это стало следствием сочетания позиции, занятой США в разгорающейся общей торговой войне, и давно высказываемых опасений, что технология инфраструктуры мобильной связи 5G, продаваемая этой компанией, теоретически может дать китайским властям доступ к коммуникациям в Соединенных Штатах через установленное оборудование[275]. США добились неоднозначных результатов в попытках оказать давление на своих союзников и заставить их также запретить использование оборудования Huawei. Кроме того, компанию обвинили в нарушении торгового эмбарго США в отношении Ирана и в получении неприемлемой поддержки китайского государства.

Пять месяцев спустя Соединенные Штаты включили в черный список еще несколько ведущих китайских стартапов в области искусственного интеллекта, а также 20 управлений полиции и силовых ведомств Китая под предлогом нарушения прав человека в результате применения ими технологии против уйгуров и других этнических меньшинств. Запрет продаж был распространен и на три из четырех китайских «единорогов», занимающихся распознаванием лиц, на iFlytek, специализирующуюся на системах распознавания речи, и две компании, выпускающие видеокамеры и другое оборудование для слежения[276].

По окончании пандемии коронавируса противоречия между Соединенными Штатами и Китаем значительно усилились. Широко распространилось понимание того, что чрезмерная зависимость от китайского производства может угрожать доступу США к принципиально важному стратегическому сырью, а также медицинским расходникам и лекарствам. Еще до кризиса было ясно, что экономическая синергия и взаимозависимость этих двух стран — явление, которое историк Ниал Фергюсон назвал в 2006 году «Кимерикой», — постепенно разрушается. Если противоречия обострятся и отдаление двух стран продолжится, определяющими факторами этого процесса неизбежно станут конфликт и конкуренция в сфере создания и использования искусственного интеллекта. По мере углубления понимания того, что ИИ является системной и стратегической технологией, перспектива полномасштабной гонки Китая и США приобретает характер реальной опасности.

Запад начинает споры вокруг проблемы распознавания лиц