Искусственный ты. Машинный интеллект и будущее нашего разума

А теперь сделаем паузу и немного передохнем. Мы многое выяснили в этой главе. Мы начали с размышлений о сюжете «Мнемоскана», и паттернизм осложнился проблемой редупликации. Это заставило отказаться от первоначальной формы паттернизма как ошибочной. Затем я предложила модифицировать паттернизм, чтобы получить на его основе более реалистичную картину. Для этого мы добавили новый элемент, согласно которому любой паттерн, чтобы уцелеть, должен обладать пространственно-временной непрерывностью. Я назвала эту точку зрения модифицированным паттернизмом. Возможно, модифицированный паттернизм показался вам более разумным, но обратите внимание: он не слишком подходит фьюжен-оптимисту, поскольку означает, что загрузка в компьютер несовместима с продолжением существования, так как нарушает пространственно-временную непрерывность.

Но как быть с другими усовершенствованиями на основе ИИ? Они что, тоже исключаются? Рассмотрим, например, выбор пакета усовершенствований в Центре конструирования разума. Эти усовершенствования могли бы кардинально изменить вашу ментальную жизнь, и при этом они не предусматривают загрузку в компьютер, а что касается нарушений пространственно-временной непрерывности, то в явном виде они здесь не просматриваются.

В самом деле, фьюжен-оптимист мог бы указать нам, что слиться с ИИ можно в результате постепенных, но совокупно значимых усовершенствований (читай – добавления в голову компонентов на базе ИИ и постепенной замены ими нервной ткани). Это не загрузка в компьютер, потому что процесс мышления по-прежнему происходит в голове, но серия подобных операций все равно сводится к попытке перенести ментальную жизнь человека на другой субстрат. После завершения этой серии, если она сработает, ваша ментальная жизнь переместится с биологического субстрата на небиологический, например кремниевый. И фьюжен-оптимист оказался бы прав: человек может слиться с ИИ.

Может ли сработать такая стратегия? Здесь нужно вернуться и заново рассмотреть некоторые вопросы, которые поднимались в главе 5.

Смерть или личностный рост?

Предположим, что вы находитесь в Центре конструирования разума и просматриваете меню, собираясь приобрести пакет усовершенствований. Вы хотите расширить свои возможности и невольно размышляете о том, насколько модифицированный паттернизм близок к истине. Вы думаете: если я – модифицированный паттерн, то что со мной произойдет, когда я добавлю пакет усовершенствований? Мой паттерн, разумеется, изменится, так, значит, я умру?

Чтобы определить, так ли будет на самом деле, стороннику модифицированного паттернизма требуется более точное представление о том, что такое «паттерн» и при каких условиях усовершенствования приведут – или не приведут – к смертельному нарушению паттерна. Экстремальные ситуации, кажется, ясны: например, как уже говорилось, требование пространственно-временной непрерывности исключает мнемосканирование и дублирование. Более того, поскольку оба варианта паттернизма тесно связаны с классической идеей психологической непрерывности, сторонник модифицированного паттернизма, скорее всего, скажет, что процесс частичного стирания памяти, который уничтожает воспоминания о нескольких трудных годах детства, – неприемлемое изменение паттерна, поскольку приводит к исчезновению слишком многого и изменению природы личности. А вот повседневное обслуживание клеток при помощи наноботов, плавающих в кровотоке и помогающих устранять накапливающиеся эффекты старения, предположительно не влияет на идентичность личности, поскольку не затрагивает воспоминаний.

Проблема в том, что промежуточные ситуации намного туманнее. Возможно, устранение нескольких дурных привычек при игре в шахматы и было бы нормальным, но как насчет более серьезных формирующих разум вмешательств вроде планируемого вами пакета усовершенствований или даже добавления какой-нибудь когнитивной способности? Или как насчет повышения IQ на 20 пунктов или стирания всех ваших воспоминаний, скажем о личных отношениях с кем-то, как в фильме «Вечное сияние чистого разума»? Не исключено, что путь к сверхразуму начинается после ряда подобных усовершенствований. Но где следует провести границу?

Каждое из перечисленных усовершенствований гораздо менее радикально, чем загрузка разума в компьютер, но каждое из них может привести к изменению паттерна, а вместе с ним и первоначальной личности. Совокупное влияние нескольких изменений на паттерн человека может оказаться весьма и весьма значимым. Так что все то же самое: нам необходимо четко понимать, что такое паттерн, какие изменения в нем приемлемы и почему. Без однозначного ответа на этот вопрос нарисованная трансгуманистом траектория развития может оказаться, насколько нам известно сегодня, всего лишь тропинкой, ведущей к самоубийству.