Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта

Сейчас это вопрос теоретический, но давайте порассуждаем. Программы синтеза речи постоянно совершенствуются, их уже практически не отличить от человеческой речи. В сочетании с программами, придающими синтезированному голосу эмоциональную окраску, становится сложно распознать, человек ли наш собеседник. Удастся ли программе нас провести? Или найдется какая-то мелочь, которая вызовет негативную реакцию и станет вербальным аналогом эффекта зловещей долины? Одно дело, если эффект возникает в программах, используемых для продаж по телефону, и совершенно другое – если речь идет о виртуальном консультанте или психотерапевте. Очевидно, что негативная реакция пользователя может перевесить все достоинства полезной во многих отношениях программы. Проблема становится еще серьезнее, если речь идет о контактных кризисных центрах, использующих программы для автоматизированного предотвращения самоубийств, когда неправильный ответ может спровоцировать трагические последствия.

Кроме того, существуют люди, использующие эмоциональные протезы, чтобы компенсировать недостаток эмоциональной отзывчивости. Мы уже упоминали MindReader Раны эль Калиуби, один из ее первых экспериментов в области эмоционального протезирования для людей с аутизмом. По всей видимости, это лишь начало целого ряда устройств эмоциональной помощи, которые будут применяться в будущем. Используя технологии дополненной реальности и распознавания эмоциональных образов, можно будет создать сколько угодно устройств для чтения эмоций. Только представьте устройство-протез для людей с повреждениями мозга, как у Эллиота (из истории в начале главы 3). Подобные устройства изменили бы чью-то жизнь!

Многие современные технологии с компьютерным интерфейсом уже помогают людям с ограниченными возможностями. Технология помогла расширить границы мира людям с нарушениями зрения и слуха. Люди с парализованными конечностями и даже синдромом изоляции смогли почувствовать, как изменилась их жизнь⁹. Интерфейсы, созданные с применением эмоционального программирования, не будут им уступать. По мере усовершенствования алгоритмов подобные устройства станут все более мобильными и доступными и изменят жизнь множества людей. Это лишь одна из причин, по которой эффект зловещей долины и его связь с эмоциональным программированием стоит изучить, понять и по возможности найти способ преодолеть.

Но это лишь начало. Точно так же, как создание ортопедических протезов рук и ног приводит к появлению конечностей и экзоскелетов, дающих суперсилу, а протез сетчатки может восстановить поврежденное зрение, настанет день, когда улучшения дадут человеку телескопическое зрение или способность видеть цвета сверх различаемого спектра, а эмоциональные протезы приведут к улучшению эмоций и эмоциональной чувствительности. Об этой разновидности изменений речь пойдет в главе 15, а сейчас поговорим о ряде трудностей, которые может вызвать эффект зловещей долины на пороге эры усовершенствований человеческого тела.

Человечество издавна искало способ усовершенствовать себя с помощью технологий. Многим людям претит идея об изменении собственного тела, однако человек, который не в состоянии воспользоваться естественными для большинства из нас возможностями, воспримет ее совершенно иначе. Протез конечности, кохлеарный имплант (для восстановления слуха), искусственное сердце – все это формы улучшения. Даже медицинские очки и трости – это базовые технологические замены утраченной функциональности. Так почему другие разновидности улучшения должны пугать нас, если они будут безопасными? Лишь потому, что они дают преимущество? Разве это законное оправдание для боязни и объявления вне закона?

Мы семимильными шагами движемся к наступлению новой эры, в которой технология постепенно заменяет или улучшает естественные человеческие функции. Каждое из улучшений может считаться важным и полезным, однако во многих отношениях их использование отдаляет нас от того, что, собственно, считается человеком. Значит ли это, что если не принять соответствующие меры, то все больше людей будут вызывать эффект зловещей долины (и антипатию) у других представителей человечества?

Это не мысленный эксперимент, или gedanken-experiment. В новом мире, который мы строим, может возникнуть неприязнь между группами, и не важно, по какому признаку люди решат разделиться на своих и чужих. Расслоение культурных норм может в перспективе спровоцировать куда большее разделение интересов, большую степень ненависти из-за выраженного неравенства, больше подозрительности в отношении тех, кого мы зовем другими.

Усугубит ли положение эффект зловещей долины? Будет ли он способствовать развитию ксенофобии, возможно, вызывая бессознательный страх смерти? Действительно ли нам легче расчеловечить то, что из-за различий, вызывающих антипатию, не укладывается в рамки наших представлений о базовой норме?