Тульпа

– Китайская комната или аргумент Серла – это умозрительная механическая модель имитации интеллектуальной работы. Представь себе комнату, в которой сидит супермен, обладающий сверхбыстрой реакцией и полной библиотекой инструкций по составлению ответов на китайском языке. Сквозь непрозрачный интерфейс он получает от внешнего наблюдателя вопрос на китайском, анализирует последовательность иероглифов и, пользуясь своими инструкциями, составляет другую последовательность иероглифов, которую отдает назад. Для внешнего наблюдателя это не что иное, как ожидаемый ответ на китайском языке. На этот счет у него не остается никаких сомнений; он уверен, что в комнате сидит человек, говорящий по-китайски. Но супермен не знает китайского, он умеет работать лишь со своей библиотекой инструкций. Этот мысленный эксперимент должен продемонстрировать, что прохождение теста Тьюринга не доказывает способности программы мыслить – точно так же, как ответ из китайской комнаты, кажущийся наблюдателю разумным, не доказывает, что супермен знает китайский.

Серфер помолчал, переваривая услышанное. Подход был непривычным, но интуитивно понятным и не требовал дополнительных пояснений. Он кивнул и продолжил играть роль школяра, нахватавшегося непонятных терминов.

– А что такое мельница Лейбница?

– Это примерно то же, но для читателей с другим уровнем фантазии. Предполагалось, что читатель может мысленно бродить внутри огромной машины, генерирующей имитации мыслей и чувств. Наблюдать изнутри работу всех ее механизмов и задаваться вопросом – в каком же из них искать сознание и чувства?

– Понятно, – кивнул Серфер, хотя в этом он уже не был так уверен.

Но углубляться во второстепенные вопросы не хотелось; время утекало стремительно и безжалостно. И он двинулся дальше.

– А что с философским зомби?

– Это тоже мысленный эксперимент. Надо представить объект, внешне неотличимый от человека, имитирующий все человеческие чувства и мысли, но при этом внутри себя ничего не осознающий и не переживающий.

– Робота? – уточнил Серфер.

– Нет, – поморщился ПалСаныч, – не стоит все так упрощать. Тебе (да и не тебе одному, к сожалению) кажется, что вся эта проблематика крутится вокруг теста Тьюринга…

– А разве это не так? – удивился Серфер.

ПалСаныч покачал головой.

– Отнюдь. Этот тест – всего лишь одно из технических приложений главной человеческой проблемы. Кстати, если машина когда-нибудь действительно станет мыслящей, она вряд ли будет стараться пройти тест Тьюринга, скорее специально на нем срежется.

– Почему? – не понял Серфер.

– Сам подумай.

Серфер подумал и согласился:

– Да, наверное. Но тогда получается, что этот тест бесполезен?

– Разумеется. Главная проблема совсем в другом. Но наши современники, ослепленные успехами информационной революции, упростили ее донельзя и свели к формализованной технической задаче.

От слов «наши современники» Серфер явственно почувствовал, как по спине побежали мурашки. Он поспешно спрятал руки под стол, чтоб не выдать себя дрожью пальцев, и спросил:

– Что это за проблема?

– Проблема интерсубъективности, – ответил ПалСаныч, – самый болезненный вопрос философии – насколько одинок человек среди людей.

– Солипсизм, – догадался Серфер.

ПалСаныч опять поморщился.

– Нет, это немного о другом.

Он повернулся к окну.

– Ну вот, например. Видишь – листва зеленая, и для тебя, и для меня. Наши глаза получают одинаковые физические сигналы, обрабатывают их сходным образом и передают в мозг. Поэтому мы по умолчанию предполагаем, что наши субъективные восприятия цвета одинаковы. Философы называют эти восприятия «квалиа». Но проблема в том, что в нашей понятийной картине есть непреодолимый разрыв между физическим сигналом и квалиа. На самом деле мы просто договорились одним словом обозначать свои зрительные ощущения от одного объекта. Однако это отнюдь не гарантирует, что наши восприятия, названные одним и тем же словом, одинаковы или хотя бы близки. В чужую голову ведь не залезешь. Чужая душа – потемки в китайской комнате. А если копнуть глубже, у тебя нет никакой гарантии, что сейчас с тобой разговаривает такая же самоосознающая личность, как и ты сам, а не бездумная китайская комната, производящая сборку реплик по вшитому алгоритму.

От этих слов Серфера буквально затрясло. Он стиснул зубы и крепко сжал кулаки. ПалСаныч продолжал: