Искусственный ты. Машинный интеллект и будущее нашего разума

Назовем систему, в точности отражающую, таким образом, организацию некоторой обладающей сознанием системы, точным изоморфом (или просто изоморфом)[28]. Если искин обладает всеми перечисленными качествами дельфина, то в соответствии с вычислительной теорией он должен обладать сознанием. В самом деле, у этого искина будут наблюдаться все те же состояния сознания, что и у оригинальной системы.

Все это хорошо и замечательно, однако не оправдывает технооптимизм в отношении искусственного сознания. Вычислительная теория сознания на удивление мало может сказать о том, будет ли ИИ, который мы, вероятнее всего, создадим, обладать сознанием, – она утверждает лишь, что если нам удастся построить изоморф биологического мозга, то он будет обладать сознанием. Она ничего не говорит о системах, которые не являются изоморфами биологического мозга.

В сущности, вычислительная теория сознания сводится к принципиальному признанию возможности машинного сознания: если бы мы могли создать точный изоморф, он обладал бы сознанием. Но даже если такая технология в принципе реализуема, это не означает, что она действительно будет когда-нибудь реализована. Например, космический корабль, проходящий сквозь кротовую нору, может выглядеть концептуально возможным (хотя это в настоящее время является предметом споров), но, однако, нельзя исключать, что его реальное создание несовместимо с законами физики. Например, не существует способа получения достаточного количества той экзотической разновидности энергии, что требуется для стабилизации кротовой норы. Или законы природы это допускают, но земляне никогда не достигнут необходимого уровня технического развития.

Философы отличают логическую, или концептуальную, возможность машинного сознания от возможностей других типов. Законная (или «номологическая») возможность требует, чтобы событие, представляющее создание чего-либо, не противоречило законам природы. В рамках номологической возможности полезно далее выделить техническую возможность создания чего-либо. То есть является ли создание артефакта, о котором идет речь, не только номологически, но и технически осуществимым. Хотя дискуссии на тему более широкой, концептуальной возможности искусственного сознания весьма ценны, я всегда подчеркиваю, что с практической точки зрения очень важно определить, сможет ли ИИ, который мы со временем создадим, обрести сознание. Так что у меня особый интерес к технической возможности машинного сознания и к тому, будут ли предприняты попытки его создать.

Чтобы разобраться в этих категориях возможности, рассмотрим популярную разновидность мысленного эксперимента, в котором речь идет о создании изоморфа. Вы, читатель, будете субъектом этого эксперимента. Предлагаемая процедура оставляет все ваши мыслительные функции нетронутыми, но все же представляет собой усовершенствование, поскольку переносит эти функции на иной, более долговечный субстрат. Начнем.

Процедура омоложения вашего мозга

Наступил 2060 год. Вы все еще бодры и в здравом рассудке, но принимаете решение пройти процедуру профилактического омоложения мозга. Друзья советуют вам воспользоваться услугами Mindsculpt – компании, которая в течение часа заменяет части мозга соответствующими микрочипами, пока в конечном итоге мозг не становится полностью искусственным. Сидя в приемной в ожидании консультации хирурга, вы нервничаете. Не каждый день человек принимает решение заменить свой мозг микрочипами. Когда подходит ваша очередь для беседы с врачом, вы спрашиваете: «Останусь ли я при этом самим собой?»

Врач уверенно объясняет, что сознание определяется функциональной организацией мозга, т. е. абстрактным паттерном причинно-следственных взаимодействий между частями вашего мозга. Она говорит, что новые технологии сканирования и визуализации мозга позволяют получить вашу персонализированную карту разума: схему каузальных механизмов, т. е. полное описание того, как ваши ментальные состояния причинно-следственно взаимодействуют друг с другом всеми возможными способами, определяющими, какие эмоции вы испытываете, какие модели поведения выбираете, что воспринимаете и т. д. Похоже, врач и сама восхищается прецизионностью новых технологий. Наконец, взглянув на часы, она подводит итог: «Таким образом, хотя ваш мозг будет заменен микросхемами, карта разума не изменится».

Объяснение врача успокоило и ободрило вас, так что вы записываетесь на хирургическую процедуру. Во время операции врач просит вас не засыпать и отвечать на вопросы. Затем она начинает удалять группы нейронов, заменяя их искусственными нейронами на основе кремния. Первой изменению подвергается слуховая зона коры. Работая над ней, доктор время от времени спрашивает, не замечаете ли вы каких-нибудь изменений в звучании ее голоса. Вы отвечаете отрицательно, и она, закончив, переходит к зрительной зоне коры. Вы говорите, что ваше зрительное восприятие, кажется, не изменилось, так что она двигается дальше.