Искусственный ты. Машинный интеллект и будущее нашего разума

Однако я хотела бы предостеречь от однозначных выводов из моего отказа от программного подхода. Как я отмечала, вычислительный подход к разуму в когнитивистике – прекрасная объяснительная основа[115]. Но из него не вытекает, что разум – это программа. Взять хотя бы каноническую статью Неда Блока «Разум как программное обеспечение мозга»[116]. Если не принимать во внимание заголовок, с которым я очевидно несогласна, в ней детально разбираются многие ключевые аспекты теории, согласно которой мозг представляет собой вычислитель. Когнитивные способности, такие как интеллект и кратковременная память, можно объяснить методом функционального разложения; ментальные состояния осуществимы множеством способов; а сам мозг есть синтаксический инструмент, управляющий семантическим инструментом. Блок точно характеризует объяснительную основу когнитивистики, выделяя ключевые особенности вычислительного подхода к разуму. Однако ничто у него не дает основания считать, что разум есть программа.

Иными словами, программный подход нежизнеспособен. Однако остается вопрос, не может ли трансгуманист или фьюжен-оптимист предложить более правдоподобный вычислительный подход к природе разума. Надо сказать, у меня действительно есть предложение. Я считаю, что под влиянием трансгуманизма мы можем сформулировать точку зрения, согласно которой разум – это не программа как таковая, но ее реализация – отдельно взятый запуск, или прогон. Тогда возникает вопрос: действительно ли эта модифицированная точка зрения лучше стандартного программного подхода?

Может ли лейтенант-коммандер Дейта быть бессмертным?

Возьмем в качестве примера лейтенанта-коммандера Дейту, андроида из сериала «Звездный путь: Следующее поколение». Предположим, что он оказывается в неудачной ситуации на враждебной планете в окружении аборигенов, которые собираются его разобрать. В последней отчаянной попытке спастись Дейта быстро загружает свой искусственный мозг в компьютер на звездолете «Энтерпрайз». Выживет ли он? И может ли он, в принципе, поступать так всякий раз, как окажется в трудной ситуации, чтобы стать бессмертным?

Если я права и ни разум Дейты, ни разум кого бы то ни было еще не является программой, то это должно повлиять на вопрос о том, могут ли искины, в том числе и загруженные в компьютер, достичь бессмертия или, скорее, того, что можно назвать «функциональным бессмертием». (Я пишу «функциональное бессмертие», поскольку когда-нибудь Вселенная придет к тепловой смерти, которой не сможет избежать никакая жизнь. Но дальше я не буду обращать внимания на эту формальность.)

Считается, что искин может достичь функционального бессмертия, создавая свои копии и перенося свое сознание с одного компьютера на другой, когда что-то происходит. Такой взгляд подкрепляется научно-фантастическими историями, но я подозреваю, что он ошибочен. Сомнительно, что человек может достичь функционального бессмертия путем загрузки себя в компьютер и выгрузки при необходимости, и столь же сомнительно, что искин способен по-настоящему уцелеть в подобной ситуации. Если отдельный разум является не программой и не абстракцией, а конкретной сущностью, то отдельный искусственный разум уязвим и подвержен как разрушению в результате несчастного случая, так и медленной деградации составляющих его частей – в точности, как и мы.

Это заявление едва ли можно назвать очевидным. Полезно отметить, что существует лингвистическая неоднозначность: понятие ИИ может относиться как к отдельному искину (конкретному созданию), так и к типу ИИ-систем (это уже абстрактная сущность). По аналогии, понятие Chevy Impala может означать и ту побитую машину, которую вы приобрели в свое время после колледжа, и тип автомобиля (т. е. марку и модель). В этом смысле оно никуда не денется даже после того, как вы доломаете свою машину и продадите ее на запчасти. Так что важно снять неоднозначность в тех утверждениях, где речь идет о выживании. Если кому-то хочется считать типы программ «типами разума», то можно сказать, что эти типы «переживают» загрузку в компьютер с точки зрения двух упрощенных понятий выживания. Во-первых, по крайней мере в принципе, машина, содержащая высококачественную копию человеческого мозга, может исполнять ту же программу, которую исполнял этот мозг до того, как был разрушен процедурой загрузки. Тип разума «остается в живых», хотя ни одно отдельно взятое самосознающее существо не живет при этом непрерывно. Во-вторых, программа, как абстрактная сущность, существует вне времени. Она не прекращает существование, потому что существует вне времени. Но это не «выживание» в реальном смысле. Конкретные «я» или разумы не выживают ни в одном из приведенных двух смыслов.