Власть роботов. Как подготовиться к неизбежному

Из вышесказанного не следует, что мы должны отказаться от более традиционных решений проблем безработицы, неполной занятости и растущего неравенства. Необходимо сделать все возможное, чтобы максимальное число трудящихся смогли успешно приспособиться к новым условиям в ближайшие годы и десятилетия, которые будут отмечены ростом влияния искусственного интеллекта и роботизации. В частности, следует вкладывать деньги в местные колледжи и доступное среднее специальное образование или программы профессионально-технической подготовки как альтернативу хищным коммерческим учебным заведениям, в настоящее время оккупирующим значительную часть сферы образования в Соединенных Штатах. В то же время я считаю, что со временем ситуация изменится настолько сильно, что программы такого рода окажутся недостаточными и нам придется искать менее традиционные решения.

Политические препоны на пути к внедрению ББД остаются очень серьезными. Я считаю реалистичным начать осуществление этой программы с минимального уровня и постепенно расширять ее. Прежде чем реализовать ее в масштабах всей страны, нужно накопить больше данных и реального опыта выплат ББД. Необходим экспериментальный поиск оптимальных параметров этой программы. Я надеюсь, что когда-нибудь будет проверена и моя идея встроенных стимулов. Данные, собранные в ходе экспериментов с ББД, позволят создать программу, способную эффективно масштабироваться и обеспечивать массовое благополучие граждан в будущем, все в большей степени определяемого искусственным интеллектом.

Обусловленная новыми технологиями безработица и растущее неравенство лишь одна из серьезных причин обеспокоенности, сопутствующей развитию ИИ. Следующие две главы посвящены целому ряду других опасностей, которые уже становятся очевидными или могут проявиться в дальнейшем в результате совершенствования высоких технологий.

Глава 7 Китай и появление государства тотального ИИ-надзора

Синьцзян-Уйгурский автономный район расположен на северо-западе Китая. Его огромная территория, примерно в два с половиной раза превышающая площадь штата Техас, граничит с семью странами: Монголией на северо-востоке, Россией на севере, Казахстаном, Кыргызстаном, Таджикистаном, Афганистаном, Пакистаном и Индией на западе. Здесь суровый климат и негостеприимный пейзаж с преобладанием скалистых гор и пустынь, среди которых разбросаны города, вобравшие в себя бо́льшую часть 24-миллионного населения района. Легендарный Великий шелковый путь — точнее, пути, поскольку он представлял собой сеть дорог, — когда-то пролегал через Синьцзян, что обеспечило этому региону главенство в торговле между Востоком и Западом, способствовавшей развитию цивилизаций во всей Евразии. Марко Поло совершил путешествие по этому пути в конце XIII века и увидел шумные базары и верблюдов с поклажей, похожих на тех, что и сегодня можно встретить в Синьцзяне.

В наши дни Синьцзян оказался в центре внимания не благодаря своей богатой истории, а потому, что крупнейшая этническая группа этого региона, уйгуры, угодила в оруэлловскую антиутопию. В таких городах, как Кашгар, Китай устроил тотальную слежку, сочетая многочисленные полицейские патрули, контрольно-пропускные пункты и передовые технологии. Практически за каждым жителем города ведется постоянное наблюдение: тысячи камер расположены на улицах, крышах зданий и столбах. Во время передвижения по городу жителей останавливают на контрольно-пропускных пунктах и позволяют продолжить путь лишь после идентификации системами распознавания лиц[242].

Синьцзян не только эпицентр слежки за гражданами. Это еще и полигон для испытания методов и технологий, которые постепенно распространяются на всю территорию страны. Предполагалось, что к 2020 году Китай установит почти 300 млн видеокамер, многие из которых будут подключены к системам распознавания лиц или используют другие методы слежения на основе ИИ, например идентификацию пешеходов по походке или характеру одежды.

Живущие в Синьцзяне уйгуры, нарушающие установленные правила или интересующиеся запрещенной идеологией, например читающие Коран, рискуют оказаться в одном из огромных «лагерей перевоспитания», созданных китайскими властями в этом регионе. В других областях страны руководство Китая тоже вознамерилось корректировать поведение с использованием всеобъемлющей системы социального рейтинга. Постепенно все больше аспектов жизни человека — покупки, поездки, пользование соцсетями и контакты с другими людьми — оказывается под наблюдением, фиксируется и анализируется. Затем на основе этой информации вычисляется общий социальный рейтинг каждого человека. Обладатели низкого рейтинга наказываются, например лишаются права пользования общественным транспортом или возможности записать своих детей в школу.