Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта

Рассмотрим трагическую историю Эллиота (см. главу 3) с опухолью мозга. После операции Эллиот утратил значительную внутреннюю и эмоциональную часть себя из-за того, что опухоль и операция повредили в его мозге область, отвечавшую за феноменальное сознание. Фактически можно утверждать, что его сознание-доступ не было повреждено, и ему осталась доступна большая часть прежнего знания и опыта. Но значительная часть феноменального сознания Эллиота перестала функционировать. Он мог узнавать красный цвет заката, но вид его больше не вызывал у него эмоционального отклика, ассоциаций, и все связанные с ним значения перестали существовать. Возможно, у него могла в какой-то мере остаться способность к саморефлексии (не в последнюю очередь потому, что его мозг был мозгом взрослого человека), но из исследования Дамасио очевидно, что по большей части Эллиот лишился ее навсегда.

Поскольку то, что произошло с Эллиотом и его товарищами по несчастью, невозможно проверить под надлежащим контролем (не ставя над ними полностью противоречащих всякой этике экспериментов), сложно обоснованно объяснить, что именно произошло. Что разрушило его личность – утрата способности испытывать эмоции или другие процессы, происходившие в тех же областях мозга? С другой стороны, существуют ли случаи, когда человек, способный мыслить рационально, чувствовал бы себя лучше, полностью лишившись связи с собственными эмоциями?

Есть множество интерпретаций и объяснений нашего долгого пути к обретению сознания и самосознания. Теорий на этот счет огромное количество. Декарт считал, что основа сознания (и душа) находится в шишковидной железе, причем только у людей. Стивен Джей Гулд считал, что самосознание – свойство, присущее исключительно людям⁹. Джулиан Джейнс придерживался мнения, что сознание – недавний, хотя и случайный, продукт цивилизации, и отрицал его существование у наших предков, по крайней мере до древних греков. Дэниел Деннет в своей модели множественных проектов рассматривает подобное сознание как артефакт непрерывного повествования и интерпретации событий. (Хотя, на мой взгляд, модель Деннета заслуживает критики по ряду пунктов, она описывает некоторые циклические аспекты разума, которые могут оказаться неотъемлемым свойством того, что мы называем сознанием.)

Странно, что мы, люди, приложили столько усилий, чтобы оказаться единственными, кто обладает самосознанием. Пришло ли это понимание к нам свыше, как в мифе о Прометее, или с помощью эзотерических практик или метафизических процессов, но мы абсолютно уверены в том, что истинное самообращенное сознание не будет даровано никогда и никому, кроме нас.

Как уже говорилось раньше, чтобы стать крайне опасным, искусственному разуму не нужно достигать человеческого уровня сознания. Немного отойдем от самосознания и рассмотрим идею о том, что интроспективное самосознание – необходимое условия для волеизъявления. Я бы сказал, что это предположение весьма далеко от истины. У большинства животных нет подобного сознания, в том смысле, что лишь немногие из них способны по-настоящему осознавать себя. Но волеизъявление, желание и даже в некоторой степени самоопределение присутствуют у довольно многих животных. Такое поведение далеко не полностью предопределенное и целиком зависит от особенностей самого животного. Таким образом, не следует рассматривать самосознание как необходимое условие для существования машинного разума. Любое существо, будь это животное или машина, обладает набором внутренних поведенческих установок, которые влияют на его действия или даже их диктуют. Чем они сложнее, особенно те элементы, которые закрыты в черном ящике, тем больше потенциальная угроза.

Что я имею в виду, говоря «закрыты в черном ящике»? Практически любая достаточно сложная система в итоге достигает той стадии, когда ее решения или их последствия больше не могут объективно определяться информацией, заданной на входе. Конечно же, сознание в данный момент соответствует этому определению, равно как и разум многих животных, не обладающих самосознанием. Различные искусственные нейронные сети (ИНС) тоже соответствуют этому определению. Некоторые ИНС, по сути, черные ящики с точки зрения того, как они преобразуют входные данные в приемлемые выходные. Из этих систем можно логически вывести и экстраполировать «правила» – в некоторой мере и с большими усилиями, – но они все равно останутся черными ящиками. Такие ведомства, как Управление перспективных научных исследований и разработок МО США, предпринимали попытки убедиться в том, что ИИ может «объяснить» свои мотивы, но вопрос, можно ли считать такой подход успешным, остается спорным¹⁰.

Кроме того, ведутся дискуссии о сложности и невозможности создания ИИ полностью эквивалентного человеческому разуму. Это общее предположение и общая ошибка. Многие люди смешивают понятия человеческого разума и искусственного интеллекта равного человеческому, а также машинного разума, эквивалентного человеческому. Хотя по определению эти понятия различны.