Государство строгого режима. Внутри китайской цифровой антиутопии

За последнее десятилетие сотни отделений полиции в США начали внедрять системы искусственного интеллекта и распознавания лиц, похожие на китайские, пусть и не используя их в таком авторитарном ключе. Тем не менее применение этих систем было окутано тайной и редко подвергалось проверке.

Многочисленные исследования, опубликованные в 2018 и 2019 годах Национальным институтом стандартов и технологий при правительстве США и другими исследовательскими институтами, неизменно показывали, что системы искусственного интеллекта предвзято относятся к людям, чья кожа не белого цвета, а также к женщинам. Одно исследование при поддержке государства, опубликованное в 2019 году, показало, что вероятность неправильного распознавания лиц мужчин азиатского и афроамериканского происхождения в сто раз выше, чем белых мужчин, а вероятность неправильной идентификации женщин выше, чем мужчин. Белых мужчин среднего возраста системы ИИ почти всегда распознавали верно.

Что происходило? Разве ИИ не должен был стать сверхинтеллектуальным героем правоохранительной деятельности, спасением от предубеждений и дискриминации, свойственных человеку? Результаты исследований в Соединенных Штатах подчеркивают то, что уже начали понимать ответственные лица: искусственный интеллект является отражением тех, кто его создает. Люди пишут алгоритмы и отбирают для них входные данные, так что алгоритмы наследуют изъяны своих разработчиков. Что еще хуже, мы не совсем понимаем, как полиция собирает данные, насколько они качественны и как эти непрозрачные алгоритмы их обрабатывают. Здесь не хватает системы сдержек и противовесов.

«Ситуация» в Синьцзяне – вина не технологического прогресса, а желания использовать технологии в деспотических целях, без должной сдержанности и осторожности. Именно поэтому невинных людей называют преступниками, обвиняют в несуществующих преступлениях и отправляют в лагеря из-за смехотворных обвинений в вынашивании террористических мыслей.

[ ]

Так или иначе, Запад начал противодействовать внедрению технологий, которые применяются в Синьцзяне.

Департамент полиции Лос-Анджелеса (LAPD) первым отказался от использования PredPol, новаторской программы в области предиктивного полицейского контроля. В июле 2019 года департамент объявил о прекращении этого проекта, изначально предназначенного для выявления районов с повышенной вероятностью совершения преступлений против собственности. Вслед за полицией Лос-Анджелеса от программы отказались и другие полицейские отделения.

«Она не помогала нам раскрывать преступления», – заявила представительница полиции Пало-Альто (штат Калифорния) газете Los Angeles Times.

Но на этом дело не закончилось. Из восемнадцати тысяч полицейских департаментов США шестьдесят все еще использовали PredPol.

Однако все программы слежки в мире не помогли Китаю своевременно выявить вспышку самой разрушительной пандемии за последнее столетие: COVID-19.

31 декабря 2019 года Китай сообщил Всемирной организации здравоохранения (ВОЗ) об учащении случаев пневмонии в Ухане, городе в центральной части страны. Считалось, что эта «пневмония», как ее окрестили в Китае, возникла на грязном, антисанитарном «мокром рынке», где без всякого контроля продавалось сырое мясо – свинина, говядина и птица, – в течение длительного времени и в неподобающих условиях лежащее под открытым небом. Это оказался новый коронавирус COVID-19, который посадил весь мир под замок и приостановил экономическую деятельность почти на весь 2020 год.

Когда COVID-19 достиг Америки и сделал безлюдными центры городов и пляжные курорты, последствия расцвета непрозрачного китайского авторитаризма непосредственно коснулись американской земли. Китай больше не был далеким, маячившим где-то на горизонте полицейским государством, чью культуру и поведение Запад мог игнорировать без каких-либо существенных для себя последствий. Торговля, путешествия и туризм настолько тесно связали Китай с остальным миром, что, казалось, ничто не могло остановить стремительное глобальное распространение COVID-19. Миру пришлось напрямую иметь дело с плохими решениями китайского руководства, которое сажало в тюрьму изобличителей, сливавших плохие новости о происходящем внутри страны, платило целой армии интернет-троллей, чтобы избежать утечек в сети, и не спешило быстро реагировать на вспышку заболевания.

Вместо того чтобы отнестись к пандемии как к глобальной проблеме, китайские дипломаты – «волки-воины», как они сами себя называют, – прибегли к гневной и агрессивной риторике в адрес стран, призвавших провести расследование, чтобы убедиться, что от глаз общественности ничего не скрывают. Китайские государственные СМИ заявили, что Австралия – это «жвачка, прилипшая к подошве китайского ботинка». Посольство Китая во Франции без всяких оснований обвинило французских работников домов престарелых в том, что они «бросают свои посты на ночь… и оставляют постояльцев умирать от голода и болезней».