Искусственный ты. Машинный интеллект и будущее нашего разума

Но добавления нескольких замечаний мелким шрифтом недостаточно, чтобы разрешить более глубокие проблемы, которые я обозначу далее.

Чтобы определить, насколько реален программный подход, зададимся вопросом: что такое программа? Как можно видеть на рисунке, программа – это список инструкций в строках компьютерного кода. Строки кода – это инструкции на одном из языков программирования, которые сообщают компьютеру, какие задания ему следует выполнять. Большинство компьютеров способны выполнять несколько программ, и, таким образом, мы можем добавлять компьютеру новые способности или удалять уже имеющиеся.

Строка кода подобна математическому уравнению. Она совершенно абстрактна и, таким образом, резко контрастирует с конкретным физическим миром вокруг нас. Вы можете бросить камень. Вы можете взять чашку с кофе. Но попробуйте бросить какое-нибудь уравнение. Уравнения – абстрактные сущности, у них нет конкретного местоположения в пространстве и времени.

Теперь, когда мы убедились, что программа абстрактна, можем заметить в программной теории серьезный недостаток. Если разум – программа, то это всего лишь длинная последовательность инструкций в программном коде. Программная теория гласит, что разум есть абстрактная сущность. Но подумайте, что это означает. Природу абстрактных сущностей – уравнений, множеств и программ – изучает такая область науки, как философия математики. Утверждается, что абстрактные сущности неконкретны: они вне пространства, вне времени, они нефизичны и некаузальны. Если написать на бумаге цифру 5, то надпись будет располагаться на листе, но сама цифра, в отличие от надписи, не располагается нигде. Абстрактные сущности не располагаются в пространстве и времени, не являются физическими объектами и не вызывают событий в пространственно-временном многообразии.

Как может разум, подобно уравнению или числу 2, быть абстрактной сущностью? Это представляется категориальной ошибкой. Мы с вами – пространственные существа и каузальные агенты, наш разум имеет состояния, которые побуждают нас действовать в конкретном мире. И время течет для нас – мы существуем во времени. Так что разум – это не абстрактная сущность, здесь у него нет сходства с программой. Может показаться, что программы способны действовать в реальном мире. Например, когда в последний раз на вашем компьютере произошел сбой, разве не программа его вызвала? Но это смешение программы с одной из ее конкретных реализаций. В какое-то мгновение, скажем когда работает Windows, эта программа дополняется физическими состояниями конкретной машины. Именно машина и связанный с ней процесс дают сбой. Мы можем говорить о сбое программы, но, если подумать, алгоритм или строки кода (т. е. собственно программа) в буквальном смысле не сбоят и не вызывают сбой. Сбой вызывают электронные состояния конкретной машины.

Так что разум – это не программа. И по-прежнему есть причины сомневаться в том, что загрузка разума в компьютер может действительно помочь Ким Суоцци или кому-то еще продолжить существование. Как подчеркивается во второй половине книги, если, конечно, существует постоянное «я», биологические усовершенствования, постепенно восстанавливающие и осторожно улучшающие работу биологического мозга, являются более безопасным путем к долголетию и расширению умственных способностей даже в случае реального создания технологии загрузки мозга в компьютер. Фьюжен-оптимисты поддерживают как стремительные перестройки в психологической непрерывности, так и радикальные изменения субстрата разума. Оба эти типа усовершенствований представляются рискованными, по крайней мере если верить, что такая вещь, как постоянное «я», действительно существует.

Я подчеркивала это также в главах 5 и 6, хотя там мои рассуждения не касались абстрактной природы программного подхода. Там моя осторожность брала начало в метафизическом противоречии, по поводу которого конкурирующие теории о природе личности сходятся. В результате мы так и не поняли, совместимы ли радикальные, или даже умеренные, усовершенствования с выживанием. Теперь видно, что с точки зрения сохранения личности программный подход проблематичен точно так же, как и паттернизм. Если второй противоречит нашим представлениям о природе личности, то первый приписывает абстракциям физический смысл, которого у них нет.