Искусственный ты. Машинный интеллект и будущее нашего разума

Не успеваете вы и опомниться, как хирургическая операция подходит к концу. «Поздравляю! – восклицает врач. – Вы теперь своего рода искин. У вас искусственный мозг, скопированный с биологического оригинала. В медицинских кругах таких, как вы, называют изоморфами»[29].

Что это все значит?

Цель философских мысленных экспериментов – подстегнуть воображение; вы вольны соглашаться или не соглашаться с развязкой сюжета. В данном случае говорится, что операция прошла успешно. Но как бы вы себя чувствовали после такой операции на самом деле – точно так же, как прежде, или в чем-то иначе?

Вашей первой реакцией, возможно, будет вопрос, действительно ли то, что получилось, – это настоящий вы, а не какой-нибудь дубль. Это важный вопрос, который стоит в центре нашего разговора в главе 5. Пока же будем считать, что человек после операции – это по-прежнему вы, и сосредоточимся на том, изменится ли при этом в нашем восприятии ощущаемое качество сознания.

В книге «Сознающий ум»[30] философ Дэвид Чалмерс, обсуждая аналогичные ситуации, настаивает, что ваши переживания должны остаться неизменными, поскольку альтернативные гипотезы попросту слишком притянуты за уши[31]. В соответствии с одной из таких гипотез ваше сознание будет постепенно гаснуть по мере замены нейронов микрочипами, примерно как гаснет звук музыкального проигрывателя, когда вы плавно поворачиваете ручку громкости. В какой-то момент, в точности как звучание песни, ваше сознание просто исчезнет. Еще одна гипотеза предполагает, что до какого-то момента ваше сознание будет оставаться неизменным, а потом резко «выключится». В обоих случаях конечный результат один и тот же: свет гаснет.

Оба этих сценария и Чалмерсу, и мне представляются маловероятными. Если искусственные нейроны действительно представляют собой точные функциональные копии, как предполагает наш мысленный эксперимент, то трудно понять, почему они должны вызвать плавное угасание или резкие сдвиги в качестве вашего сознания. Такие дуплицированные искусственные нейроны по определению обладают всеми причинно-следственными свойствами, принципиально важными для вашей ментальной жизни[32].

Итак, кажется правдоподобным, что такая процедура, будь она проведена, привела бы к появлению ИИ, обладающего сознанием. Этот мысленный эксперимент может служить аргументом в пользу того, что синтетическое сознание возможно, по крайней мере концептуально. Но, как отмечено в главе 1, концептуальная возможность, следующая из подобного мысленного эксперимента, не гарантирует, что в случае создания подвинутого ИИ тот будет обладать сознанием.

Важно задаться вопросом, возможна ли в принципе ситуация, описанная в мысленном эксперименте. Не противоречит ли создание изоморфа законам природы? И если не противоречит, то достигнет ли когда-нибудь человечество технического уровня, достаточного для его создания? Да и захочет ли этим заниматься?

Говоря о том, возможны ли номологические (т. е. без нарушения законов природы) события, описанные мысленным экспериментом, отметим, что мы в настоящее время не знаем, способны ли другие материалы воспроизвести ощущаемое качество ментальной жизни. Возможно, мы узнаем это довольно скоро, когда врачи начнут использовать медицинские импланты на основе ИИ в тех частях мозга, которые отвечают за осознанные переживания.

Одна из причин, по которым это может оказаться неосуществимым, состоит в том, что осознанные переживания, возможно, зависят от квантово-механических свойств мозга. Если это так, то наука никогда не получит той информации о мозге, которая необходима для создания истинной квантовой копии вашей личности, – ведь квантовые ограничения, касающиеся измерения частиц, не позволят нам узнать точные свойства мозга, требующиеся для создания настоящего изоморфа.

Но давайте, для целей нашего разговора, считать, что создание изоморфов возможно как концептуально, так и номологически. Будут ли люди их создавать? Я сомневаюсь в этом: превращение человека в обладающий сознанием ИИ путем последовательного совершенствования потребовало бы намного большего, чем изготовления нескольких нейронных протезов. Разработка изоморфа требует научных прорывов такого масштаба, который позволил бы заменить все части мозга искусственными компонентами.

Более того, развитие медицины в ближайшие десятилетия вряд ли приведет к появлению мозговых имплантов, точно воспроизводящих вычислительные функции групп нейронов, а наш мысленный эксперимент требует, чтобы все части мозга были заменены их точными копиями. К тому времени, когда эта технология будет разработана, люди, скорее всего, предпочтут расширять свои возможности, а не становиться изоморфами своего прежнего «я»[33].