Власть роботов. Как подготовиться к неизбежному

Хотя угроза частной жизни совершенно реальна, важно понимать, что при правильном и этичном использовании системы распознавания лиц однозначно полезны. Эта технология позволила задержать множество опасных преступников. В ситуации с Clearview ущерб неприкосновенности частной жизни, очевидно, перевешивает пользу, тем не менее благодаря этому приложению были опознаны опасные уголовники. Особенно эффективным оно оказалось в идентификации насильников и распространителей детской порнографии. Системы распознавания лиц, действующие в общественных местах, также могут быть очень полезными для снижения уровня преступности. Лондонская полиция справедливо отмечает: «Мы все хотим жить и работать в безопасном городе; общественность может не сомневаться в том, что мы будем использовать общедоступную технологию для борьбы с преступностью»[287].

Более того, повсеместное слежение в Китае, которое с западной точки зрения есть не что иное, как откровенное подавление личности, вовсе не обязательно воспринимается отрицательно большинством китайцев. Многие жители Сянъяна искренне одобряют систему выявления нарушителей правил перехода улиц, потому что она эффективна, и на опасных в прошлом перекрестках стало больше порядка. Я лично расспросил немало жителей Китая, и в наших беседах постоянно всплывало общее наблюдение — у людей усилилось чувство защищенности от преступлений, в частности родители стали меньше бояться за маленьких детей. Не следует недооценивать потенциальную важность этого изменения. Ощущение безопасности в том месте, где живешь, высоко ценится большинством и коррелирует с улучшением показателей физического и психического здоровья. Это одна из областей, в которых Китай зачастую обгоняет Соединенные Штаты.

Безопасная среда особенно важна для детей. Джонатан Хайдт, писатель, профессор Нью-Йоркского университета, настойчиво выступает за воспитание «без гиперопеки». Он утверждает, что мы, жители Соединенных Штатов, создали культуру гиперопеки детей, которая лишает их возможности неконтролируемого взаимодействия с миром, позволяющего превратиться в уверенно стоящих на ногах взрослых[288]. Большинству американских родителей сама мысль о том, чтобы отпустить ребенка одного в школу или разрешить ему играть в соседнем парке без присмотра, кажется чудовищной, а в некоторых местах это просто незаконно. Я подозреваю, что маленьких китайцев не слишком заботит всевидящее око оруэлловского государства, зато они знают, что могут самостоятельно пойти в школу и поиграть в парке. Вот будет ирония, если окажется, что у китайской системы слежки есть положительная сторона — хотя бы для самых маленьких граждан страны. Со временем это, возможно, позволит воспитать более предприимчивое и склонное к новаторству поколение. Никто не хочет, чтобы китайская система появилась в Соединенных Штатах, но в тех пределах, в которых технологии слежения на основе ИИ помогают снизить уровень преступности и создать более безопасную среду, нам следует серьезно задуматься о компромиссе.

Итак, технология распознавания лиц способна принести реальную пользу обществу. Принципиально, однако, чтобы она применялась справедливо и одинаково затрагивала все группы населения. В этом и коренится основная проблема. Ряд исследований доказали, что системы распознавания лиц стабильно демонстрируют определенную предвзятость, как расовую, так и гендерную. Разумеется, это далеко от китайских алгоритмов, открыто нацеленных на выявление уйгуров, и связано с преобладанием лиц белых мужчин в наборах данных, на которых обучаются алгоритмы. В одной популярной выборке обучающих данных 83 % лиц были белыми и 77 % — мужскими[289]. Типичным проявлением этой проблемы является более высокая вероятность «ложноположительного» результата в отношении небелых и женских лиц. Иными словами, в случаях женщин и цветных шансы на ошибочное совпадение возрастают.