Новые темные века

Научные достижения последнего десятилетия привели к возрождению нейронных сетей, а с ними – огромного интереса к искусственному интеллекту. Компания Google особенно оптимистично смотрит на прогресс искусственного интеллекта и открывающиеся в связи с этим возможности. Соучредитель Google Сергей Брин сказал следующее: «Нужно исходить из того, что когда-нибудь мы сможем создавать машины, которые будут рассуждать, думать и делать многое лучше, чем мы»(4). Главный исполнительный директор компании Сундар Пичаи любит говорить, что Google будущего будет «в первую очередь, искусственным интеллектом».

Google уже некоторое время инвестирует в искусственный интеллект. В 2011 году в компании впервые рассказали о своем проекте Google Brain, в рамках которого специально построенной нейронной Сети из тысячи компьютеров и 16 000 процессоров «скармливали» 10 миллионов изображений из видео на YouTube(5). Изображения не были снабжены какими-либо комментариями или метками, но Сеть научилась распознавать человеческие лица и кошачьи морды, даже не имея никакого представления о том, с чем имеет дело.

Распознавание изображений – базовая задача для проверки интеллектуальных систем, она не представляет сложности для таких компаний, как Google, которые занимаются созданием все более крупных сетей, состоящих из все более быстрых процессоров, и сбором все больших объемов данных из повседневной жизни пользователей сервиса. Например, Facebook с помощью аналогичной программы на основании четырех миллионов изображений пользователей сайта создал программу «DeepFace», которая может распознавать людей с 98-процентной точностью(6). (Это программное обеспечение в Европе незаконно.) А далее программу начинают использовать не только для распознавания, но и для прогнозирования.

В 2016 году была опубликована статья, наделавшая много шума. Сяолинь Ву и Си Чжан из Шанхайского университета Цзяо Тонг изучали способность автоматизированной системы распознавания лиц делать выводы о «преступной склонности» людей. Они обучили нейронную сеть на подборке из 1856 найденных в Интернете фотографий на документы и 730 предоставленных полицией снимках осужденных преступников. По результатам эксперимента исследователи заявили, что программа способна по лицам отличить тех, кто склонен к совершению преступлений(7).

Публикация взволновала многих, о ней писали в технологических блогах, международных газетах и научных журналах. Наиболее резкая критика заключалась в том, что Ву и Чжан пошли по следам Чезаре Ломброзо и Фрэнсиса Гальтона, печально известных сторонников физиогномики – распространенной в XIX веке науки о том, что по физиологии человека можно судить о его психологии, в том числе склонности к насилию и преступному поведению. Ломброзо внес существенный вклад в криминологию, но его теория о возможности по форме челюсти, наклону лба, размеру глаз и форме уха определить «примитивные» характеристики потенциального преступника была опровергнута в начале XX века. Гальтон разработал технику составления портрета «типичного» преступника, поскольку был убежден, что физическим чертам соответствуют моральные качества человека. Критики китайских ученых увидели в их работе новую форму цифровой френологии, и нападки на исследование подпитывались сложившимися культурными предубеждениями.

Ву и Чжан были потрясены такой реакцией и в мае 2017 года опубликовали возмущенный ответ. Помимо разбора некоторых из наиболее ненаучных попыток опровергнуть предложенный ими метод, они прямо нацелились, выражаясь технологическим языком, на своих недоброжелателей. «Нет никакой необходимости выставлять нашу работу кульминацией прискорбного ряда расистских исследований»(8), – заявляли они, будто линию преемственности прочертили их критики, а не сама история.

Все, кто занимается искусственным интеллектом, отказываются от своих претензий всякий раз, когда возникают этические конфликты, хотя сами дали повод для завышенных ожиданий. Когда британская консервативная газета Daily Mail использовала программу распознавания лиц How-Old.net и усомнилась в возрасте детей-беженцев, принимаемых в Великобританию, создатели программы из компании Microsoft незамедлительно подчеркнули, что программа была просто развлекательным приложением, «которое не предназначалось для точной оценки возраста»(9). Точно так же Ву и Чжан возразили: «Наша работа предназначена исключительно для академических дискуссий; реакция мировых средств массовой информации стала для нас полной неожиданностью».