Искусственный ты. Машинный интеллект и будущее нашего разума

В целом можно сказать, что китайская комната не укрепляет позиции биологического натурализма. Но если у нас пока отсутствуют убедительные аргументы в пользу биологического натурализма, то нет и убойного аргумента против него. Как объясняется в главе 3, пока слишком рано говорить о том, возможно ли искусственное сознание. Но прежде чем я обращусь к этой теме, рассмотрим вторую сторону медали.

Технооптимизм в отношении машинного сознания

В двух словах, технооптимизм в отношении машинного сознания (или просто «технооптимизм») – это уверенность в том, что если человечество создаст развитый универсальный ИИ, то искины будут обладать сознанием. Мало того, эти искины, возможно, будут вести более сложную и богатую оттенками ментальную жизнь, чем люди[26]. В настоящее время технооптимизм пользуется довольно большой популярностью, особенно среди трансгуманистов, части ИИ-специалистов и научных средств массовой информации. Но на мой взгляд, технооптимизму, как и биологическому натурализму, недостает теоретической поддержки. Хотя может показаться, что он имеет в своей основе определенные представления о разуме из области когнитивистики, на самом деле это не так.

Технооптимизм действительно вдохновляется когнитивистикой – междисциплинарной областью знания, изучающей мозг. Чем больше данных о мозге получают специалисты по когнитивистике, тем больше кажется, что с практической точки зрения мозг лучше всего представлять как процессор для обработки информации и что все мыслительные функции имеют вычислительный характер. Вычислительная теория разума стала в когнитивистике чем-то вроде исследовательской парадигмы. Это не означает, что мозг имеет архитектуру стандартного компьютера. Более того, конкретный вычислительный формат мозга служит темой бесконечных споров. Но в настоящее время вычислительная теория разума обрела более широкий смысл, включающий в себя алгоритмическое описание мозга и его частей. В частности, можно объяснить когнитивную или перцептивную способность, например внимание или кратковременную память, путем ее разложения на взаимодействующие друг с другом причинно связанные части, а затем описания каждой части при помощи собственного алгоритма[27].

Сторонники вычислительной теории разума с их упором на формальное алгоритмическое описание ментальных функций склонны признавать возможность машинного сознания. Они предполагают, что другие типы субстратов тоже способны производить вычисления того рода, которыми занимается мозг. То есть они, как правило, считают мышление субстратонезависимым.

Поясню значение этого термина. Предположим, вы планируете новогодний праздник. Пригласить гостей на этот праздник и сообщить им необходимые подробности можно самыми разными способами: вы вольны сделать это лично, письмом, по телефону и т. д. Мы можем обособить носителя информации (субстрат) о празднике от самой информации о нем. В аналогичном ключе можно предположить, что сознание способно существовать на разных субстратах. Не исключено, по крайней мере в принципе, что оно присуще не только биологическому мозгу, но и системам, основанным на других материалах, таких как кремний. Это и называется «субстратонезависимостью».

Такая точка зрения позволяет принять позицию, которую я называю вычислительной теорией сознания. Эту теорию можно сформулировать следующим образом:

Вычислительная теория сознания: сознание можно объяснить с вычислительной позиции; более того, именно вычислительные характеристики системы определяют природу ее осознанных переживаний и то, имеет ли она их.

Представьте, как дельфин скользит в воде в поисках пищи. Если верить сторонникам вычислительной теории, то именно внутренние вычислительные состояния дельфина определяют характер его осознанных переживаний, таких как ощущение скольжения тела в воде и вкус добычи. Вычислительная теория сознания гласит, что если какая-то другая система S₂ (с искусственным мозгом) обладает в точности такой же вычислительной конфигурацией и состояниями, включая сигналы, поступающие в ее сенсорный аппарат, то она должна обладать сознанием так же, как сам дельфин. Чтобы это произошло, ИИ должен в сходных обстоятельствах демонстрировать те же модели поведения, что и дельфин. Более того, он должен иметь те же внутренне связанные психологические состояния, что и дельфин, включая чувственные переживания.