Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта

В Тель-Авивском университете использовали общий морфологический анализ для прогнозирования технологий. Группа под руководством научного сотрудника Роя Цезаны применила метод к многочисленным зарождающимся технологиям, их временным рамкам и взаимному влиянию, возможным комбинациям, взаимодействию и сочетаниям. Цезана отмечает: «Программисты могут создать интересные приложения для общего морфологического анализа, способные обработать миллионы сценариев». Результаты его собственных комбинаторных исследований содержат пугающие выводы о возможностях использования и злоупотребления новыми технологиями. В одном исследовании группа Цезаны установила временные рамки, в пределах которых различные комбинации зарождающихся технологий могут превратиться в потенциальную угрозу, а также просчитала вероятность их появления и тяжесть последствий. Большинство последствий попало в категорию киберпреступлений из-за цифровой природы нашего мира, в котором постоянно растет число взаимосвязей. Однако есть элементы, которые относятся к другим категориям, например биотерроризм, 3D-печать оружия и технология летающих дронов-разведчиков. Вероятность применения технологий для совершения разного рода преступлений оценили в порядке возрастания, а затем изучили повторно, уже в контексте связи каждой отдельной технологии с двумя, тремя или четырьмя другими. В конце концов был открыт ряд новых уязвимостей и угроз.

Те же методы можно применить к аффективным технологиям и социальной робототехнике, что поможет точнее спрогнозировать их применение со злым умыслом, в частности в сочетании с другими технологиями. Затем, в зависимости от уровней риска и уязвимости, можно определить, стоит ли разрабатывать и встраивать в подобные технологии определенную защиту. Разумеется, мы отлично знаем, что всё равно найдется кто-то, кто попытается обойти защиту и наверняка преуспеет в этом.

Культурное развитие происходило независимо от биологического, благодаря чему человечество осознало, что заботиться о предках и почитать их полезно.

Подобную реакцию можно увидеть на примере новых медицинских приборов. Различные беспроводные перепрограммируемые имплантируемые медицинские устройства: кардиостимуляторы, имплантируемые кардиовертердефибрилляторы, внешние инсулиновые помпы – потенциально уязвимы для удаленных попыток злонамеренного перепрограммирования⁵. На ранних стадиях разработки практически ничего не предпринималось для их защиты от взлома и использования в преступных целях. Хотя это может показаться фантастикой, в высших правительственных кругах к такой уязвимости относятся крайне серьезно. Например, в 2013 году бывший вице-президент Дик Чейни сказал в интервью для программы «60 минут» (60 Minutes), что именно по этой причине в 2007 году его врач распорядился отключить беспроводное функционирование его кардиостимулятора. Врач опасался, что террорист гипотетически мог отправить кардиостимулятору сигнал, который бы спровоцировал у вице-президента остановку сердца. В последние годы возросло понимание подобных уязвимостей у кардиостимуляторов и других имплантируемых медицинских устройств, что привело к шифрованию их сигналов во избежание грязной игры.

Это потенциальная проблема для каждой новой технологии и повод установить стандарты, которые защитят и технологию, и нас. Во многих отношениях меры предосторожности очевидны, но мы себе же во вред их игнорируем.

И все же ситуация не совсем безнадежна. Сочетание разнообразных технологий будет обращено не только во вред, но и на пользу. Это подтверждают технологии, упомянутые в начале главы, и сценарий с покером в главе 5. Распознавание выражений лиц, умные контактные линзы, квантовое шифрование… кто знает, какие еще чудеса современной науки объединились (или объединятся), чтобы такая конкуренция стала возможной. Это настоящий кембрийский взрыв систем и устройств, получивших за последние несколько столетий самое широкое распространение.

Легко рассуждать о многочисленных способах, которые помогли этим технологиям проявить себя, но в конечном итоге это всего лишь предположение. Вполне в духе названия этой главы казалось хорошей мыслью собрать все идеи воедино и спросить футурологов, что они думают об эмоциональном программировании, социальной робототехнике и эмоциональном искусственном интеллекте. Неудивительно, что их реакция разнообразна, но все же в некоторых вопросах мнение совпадает⁶.

Бывший футуролог компании Intel и идейный вдохновитель проекта «Робот XXI века» Брайан Дэвид Джонсон получил посылку от учителя, который рассказал о проекте своим пяти- и шестилетним ученикам: