Эмоции. Великолепная история человечества

Аффект — это не эмоция, а, скорее, оценка действительности; она вызывает приятные или неприятные ощущения в теле, возбуждая или успокаивая нас. Аффекты помогают установить контекст — подсказывают нам, видим ли мы собаку, которой можно доверять (или даже которую можно приручить), или тигра, от которого нужно бежать. Чтобы ощущать аффекты, ИИ необходимо тело. Как утверждает Барретт, «для баланса мозгу, лишенному тела, не хватает систем органов; ему недостает телесных ощущений, какие можно было бы осмыслить. Развоплощенный мозг не испытывает эмоций»[392].

Тело чувствующей машины необязательно должно быть копией человеческого, как в «Бегущем по лезвию». Это может быть полностью виртуальное тело, но для подключенного к нему цифрового мозга выполняющее функции физического. К сожалению, большинство разработчиков ИИ, наделяющих свои творения пониманием эмоций (даже те из них, кто подключает к своим творениям некое подобие тела), создают машины, которые в лучшем случае реагируют на основные стимулы вроде изображения, звука и давления. Чтобы получился чувствующий компьютер, необходимо больше, гораздо больше. Насколько больше — это мы, скорее всего, выясним в процессе попыток его создать. Сейчас ученые могут проверять, какие у людей представления об эмоциях, лишь несколькими довольно неуклюжими методами: предложить пройти опрос, поместить их в шумные, вызывающие клаустрофобию трубы и попросить реагировать «как обычно», изучать в мозге физические последствия травмы или неудачной операции. Что касается непосредственно понимания эмоций, мы все еще блуждаем во тьме. Чувствующий компьютер мог бы здесь зажечь для нас свет.

В качестве теоретического упражнения представим, что нам удалось решить эту задачу. Мы провели эксперименты и создали машину, которая может испытывать аффекты, считывать контекст и оценивать явления — и все эти способности идеально синхронизированы для того, чтобы конструировать эмоции. Кроме того, нам удалось навязать нашему творению собственные культурные предубеждения. Перед нами эмоциональная, чувствующая машина. Осталась последняя проблема. То, что машина чувствует, еще не означает, что она испытывает эмоции так же, как и мы. Она может вести себя, будто это так, говорить, что это так, но как нам точно узнать, что это правда так?

Вернемся к примеру с самоуправляемым автомобилем, распознающим агрессию на дороге. Безусловно, он может понять, почему я хмурюсь и трясу кулаком. Он может изобразить, что сопереживает мне и понимает смысл моего жеста. Но в действительности это механистическое подобие чего-то, что испытывает эмпатию, причем мы так до конца и не понимаем, как совместная работа шестеренок внутри него создает «ощущение» эмоции. Сейчас все еще может оказаться, что способность чувствовать нельзя воспроизвести искусственно. Возможно, это и неважно. В конце концов, я не могу быть уверен, что тот, кто читает эту книгу, испытывает эмоции так же, как я. Я не могу залезть вам в голову. Барретт утверждает, что эмоции зависят не только от того, как человеческий разум воспринимает собственные аффекты, контекст и оценки, но и от того, как это восприятие работает «во взаимодействии с разумом других людей»[393]. Если мы — или даже какой-нибудь другой ИИ — считаем, что машина способна чувствовать, достаточно ли этого?

В связи с этим возникает другой вопрос: важно ли, чтобы человек или машина действительно чувствовали эмоции? Или достаточно, чтобы они просто вели себя так, как будто они эти эмоции испытывают? Учитывая уровень интеллекта животных, мы относимся к ним не так же, как к людям, но какую роль играют эмоции в том, как мы проводим грань между машиной и искусственным, но живым созданием? Различие между тем ИИ, который делает вид, что боится смерти, и тем, который действительно боится смерти, критически важно в случае, если когда-нибудь возникнет необходимость выключить компьютер. Можем ли мы вообще принять такое решение в условиях неопределенности?