Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта

В 2015 году на Совместной международной конференции по вопросам искусственного интеллекта космолог Макс Тегмарк в открытом письме призывал к полному повсеместному запрету автономного оружия¹³. Письмо подписали 2500 специалистов в области робототехники и искусственного интеллекта по всему миру. Поскольку способностью выбирать и преследовать цели будет управлять искусственный интеллект, в течение следующих лет она продолжит совершенствоваться. Ученые боятся гонки вооружений, в результате которой появится недорогое и легкодоступное оружие массового поражения. И несмотря на то что некоторые страны полностью откажутся от его использования, оно неизбежно появится на черном рынке, чем непременно воспользуются террористы и диктаторы по всему миру. Подписавшиеся под открытым письмом заявляют: «Автономные комплексы вооружения идеально подходят для политических убийств, дестабилизации обстановки в стране, запугивания населения и геноцида определенных этнических групп». В последующей статье авторы говорят: если оружие запрограммировано с учетом этической функции, то в наших интересах помнить о том, что враги могут и отключить эту функцию, несмотря на запрет международного законодательства.

Точно такой же будет ситуация с роботами и искусственным интеллектом, способными к переживанию эмоций и эмпатии. Поскольку практически любую систему или устройство можно взломать и перепроектировать, мы должны ожидать худшего, по крайней мере от некоторых людей.

Многие считают, что появление эмоциональной осознанности у дронов и роботов снизит уровень их злонамеренного использования в боевых действиях и количество жертв среди гражданского населения. Однако существует множество ситуаций, в которых автономное оружие, обладающее эмоциями, может быть не менее ужасным. Человекоподобный робот с развитым эмоциональным интеллектом и внешностью друга, родственника или даже ребенка может легко проникнуть на охраняемую территорию и убить множество людей. В фантастическом рассказе Филипа К. Дика «Вторая модель» (Second Variety), вышедшем в 1953 году и ставшем классикой жанра, жители мира постапокалиптической антиутопии сталкиваются с засильем самовоспроизводящихся роботов-убийц. Некоторые из этих машин, предназначенных для шпионажа и убийства, внешне неотличимы от людей. Как и многие произведения Филипа Дика, с течением времени этот сценарий представляется все более правдоподобным. Не стоит даже говорить о том, что это не то будущее, которое мы все хотели бы увидеть.

К сожалению, разнообразие современной военной техники предполагает множество средств ведения войны. Кибероружие – одно из новейших. Оно стало совершеннее с развитием и расширением интернета. Большинство из нас никогда не думали об эмоциях, слыша слова «киберпреступление» и «кибероружие», но на самом деле эмоции здесь – решающий элемент. Любой компетентный хакер скажет, что самое слабое звено в безопасности – это человек. Хакеры говорят о манипулировании этой слабостью как об использовании навыков социальной психологии. Они могут воспользоваться слабостью человеческой натуры, чтобы подобрать недостаточно тщательно продуманный пароль, хотя подглядывание через плечо или получение доступа к веб-камерам, чтобы прочитать пароли на приклеенных листочках тоже успешно работают. Они могут завести с человеком абсолютно невинный разговор, чтобы добыть безобидную, но важную информацию. Это творческий подход, основанный на знании людей и того, как ими манипулировать. Иными словами, эмоциональный интеллект.

По мере того как компьютерные программы станут обретать все большую эмоциональную осознанность, хакеры будут активно их применять. Способность автоматизировать процесс означает, что одновременно можно обратиться ко многим людям, например по телефону или электронной почте. (Сейчас программы синтеза речи, использующие голосовой поиск, нельзя отличить от речи живого человека¹⁴.) За счет эмоциональной уязвимости массовая психологическая обработка может привести к многочисленным утечкам информации, которые можно использовать для обхода систем безопасности.