Быть собой: новая теория сознания

Японский робототехник Хироси Исигуро уже не первое десятилетие конструирует роботов, придавая им максимально возможное сходство с человеком. Он называет их геминоиды. Исигуро создал геминоидные копии себя (см. рис. 22) и своей дочери (тогда шестилетней), а также геминоидную телеведущую со смешанными японско-европейскими чертами на основе обобщенного портрета около 30 разных людей. Каждый геминоид конструируется по подробным 3D-сканам тела и оснащается пневматическими приводами, способными порождать широкий спектр мимики и жестов. Искусственного интеллекта как такового в этих устройствах почти нет — они подражают человеку лишь внешне и применение находят среди прочего в удаленном присутствии и «телеприсутствии». Одного из своих геминоидов Исигуро как-то раз посадил читать 45-минутную удаленную лекцию 150 студентам.

Впечатление эти геминоиды производят безусловно жутковатое. Они реалистичны, но недостаточно. Представьте себе встречу с геминоидом как прямую противоположность встрече с кошкой. При виде кошки, или, допустим, осьминога, у нас сразу возникает ощущение, что мы имеем дело с существом сознательным, пусть даже внешне совершенно не похожим на нас. При виде геминоида поразительное, но все же не стопроцентное физическое сходство только усиливает и подчеркивает расхождения и инаковость. В одном исследовании 2009 г. самым распространенным ощущением, которое вызывал геминоид у посетителей, был страх[378].

Рис. 22. Хироси Исигуро и его геминоид

Публикуется с разрешения ATR Hiroshi Ishiguro Laboratories

Эта реакция — пример так называемого эффекта зловещей долины, понятия, введенного в 1970 г. другим японским исследователем, Масахиро Мори. Согласно гипотезе Мори, чем больше робот похож на человека, тем больше он нам нравится и тем больше мы ему сочувствуем (вспомним, например, C-3PO из «Звездных войн»), но, как только сходство достигает определенного предела, за которым робот в чем-то слишком похож на человека, а в чем-то недотягивает, симпатия резко сменяется отторжением и страхом (тут-то и образуется «зловещая долина») и возвращается, только когда сходство усиливается до полной тождественности и неотличимости. Хотя к единому мнению о том, почему возникает «зловещая долина», ученые не пришли, в существовании ее почти никто не сомневается[379].

В отличие от роботов реального мира, которые пока не могут выбраться из «зловещей долины», виртуальные создания уже карабкаются на противоположный ее склон. Недавний прогресс в машинном обучении, достигнутый за счет использования «генеративно-состязательных нейросетей» (GANN), позволяет создавать фотореалистичные изображения несуществующих людей (см. рис. 23)[380]. Эти фотографии получены путем «умного» объединения различных черт из больших баз данных настоящих лиц с применением почти таких же технологий, как те, что мы использовали в своей галлюцинаторной машине, описанной в главе 6. Осталось добавить сюда технологию «дипфейк»[381], позволяющую анимировать эти лица, чтобы они «заговорили», затем дать им слово с помощью продолжающих совершенствоваться программ распознавания и производства речи, таких как GPT-3, — и вот наш мир уже населен виртуальными людьми, совершенно неотличимыми от виртуальных репрезентаций реальных людей. В этом мире мы отвыкнем отличать реальное от виртуального.

Рис. 23. Восемь лиц. Этих людей не существует, они ненастоящие

Все, кому кажется, что эти творения упрутся в своем развитии в потолок, так и не успев пройти дополненный видеосредствами тест Тьюринга, скорее всего, ошибаются. За подобным скепсисом стоит либо непрошибаемая убежденность в нашей (человеческой) исключительности, либо отсутствие воображения, либо и то и другое. Тест будет пройден. Соответственно, остаются два вопроса. Первый: сумеют ли эти новые виртуальные создания перейти в реальный мир, преодолев «зловещую долину», из которой никак не выберутся геминоиды Исигуро? Второй: покорится ли им тест Гарленда? Начнем ли мы воспринимать эти новые создания как не только разумные, но и обладающие сознанием, даже если будем знать, что это не более чем строки компьютерного кода?

И если да, как это отразится на нас самих?

* * *