Сознающий ум

Однако нередуктивный взгляд на сознание вовсе не автоматически приводит к пессимистическим воззрениям на ИИ. Это совершенно разные вопросы. Первый имеет отношение к прочности сопряжения физических систем и сознания: конституируется ли сознание физическими процессами, или же оно всего лишь возникает из этих процессов? Второй вопрос касается формы этого сопряжения: какие именно физические системы порождают сознание? Разумеется, не очевидно, что выполнение надлежащего вычисления должно порождать сознание; но не очевидно и то, что нейронные процессы в мозге должны порождать его. И, на первый взгляд, не ясно, почему компьютеры должны уступать мозгу в этом отношении. Признав удивительный факт порождения мозгом сознания, мы не испытаем нового удивления, обнаружив, что вычисление могло бы порождать сознание. Так что само по себе принятие нередуктивного взгляда на сознание должно было бы оставлять рассматриваемый нами вопрос открытым.

Рис. 9.1. Bloom County о сильном ИИ (© 1985, Washington Post Writers Group. Перепечатано с разрешения).

(1) — Я мыслю. Следовательно…

(2) — Я существую. Я существую!

(3) — Я мыслю! Следовательно, я живой! Я живой, у меня есть жизнь, мысли и психика! Сладкое сознание!.. И бессмертная душа! — Хлоп!

В этой главе я пойду дальше и попытаюсь показать оправданность амбиций сторонников искусственного интеллекта (рис. 9.1). В частности, я буду отстаивать позицию, которую Серл называет сильным искусственным интеллектом и которая состоит в том, что существует непустой класс вычислений, такой, что осуществление любого вычисления этого класса достаточно для ментального и в том числе для существования сознательного опыта. Конечно, эта достаточность имеет силу лишь естественной необходимости: осуществление любого из этих вычислений при отсутствии сознания является логически возможным. Но мы видели, что это верно и для мозга. При оценке перспектив машинного сознания в актуальном мире нас интересует естественная возможность и необходимость.

(Чтобы этот не вывод не казался тривиальностью, учитывая панпсихистские предположения, высказанные в предыдущей главе, замечу, что ничто в этой главе не зависит от тех соображений. В самом деле, я буду доказывать не только то, что осуществление надлежащего вычисления достаточно для сознания, но и то, что осуществление надлежащего вычисления достаточно для богатого сознательного опыта, подобного нашему.)

Я уже выполнил большую часть работы, которая требуется для указанной защиты сильного ИИ, обосновывая в главе 7 принцип организационной инвариантности. Если тот аргумент верен, то он устанавливает, что любая система с надлежащим типом функциональной организации наделена сознанием — неважно, из чего она сделана. Так что мы уже знаем, что, скажем, кремниевый состав не является преградой для обладания сознанием. Остается лишь прояснить связь между вычислением и функциональной организацией, чтобы установить, что осуществление надлежащего вычисления гарантирует наличие релевантной функциональной организации. Если это сделано, то отсюда вытекает сильный ИИ. Я также отвечу на ряд возражений, выдвинутых против проекта сильного ИИ.

2. Об имплементации вычисления

Стандартная теория вычисления имеет дело исключительно с абстрактными объектами: машинами Тьюринга, программами на Паскале, конечными автоматами и т. п. Это — математические сущности, населяющие математическое пространство. Когнитивные же системы, существующие в реальном мире, это конкретные объекты, имеющие физическое воплощение и каузально взаимодействующие с другими объектами физического мира. Но зачастую мы хотим использовать теорию вычисления для получения выводов о конкретных объектах в реальном мире. Для этого нам нужен мост между областью абстрактного и областью конкретного[179].

Таким мостом является понятие имплементации — отношения между абстрактными вычислительными объектами, или, коротко, «вычислениями» и физическими системами, имеющееся тогда, когда физическая система «реализует» вычисление, или когда вычисление «описывает» физическую систему. Вычисления часто имплементируются на синтетических, кремниевых компьютерах, но их можно имплементировать и иначе. К примеру, нередко говорят, что вычисления имплементируют природные системы, такие как человеческий мозг. Вычислительные описания применяются к самым разнообразным физическим системам. И всякий раз в подобных случаях неявно или явно задействуется понятие имплементации.