Разум VS Мозг. Разговор на разных языках

В 1980 г. философ Джон Сёрл опубликовал противоречивый мысленный эксперимент – аргумент Китайской комнаты – с целью объяснить, почему искусственный интеллект не способен на понимание. Сёрл описывает человека, хорошо говорящего по-английски, внутри запертой комнаты. У человека есть комплект руководств, точно объясняющих, как обрабатывать входящую информацию, написанную на китайском языке. Его ответы потом тоже должны быть написаны на китайском. Поскольку он не понимает китайского, его ответы основываются исключительно на следовании инструкциям, приведенным в руководстве (которое написано по-английски). Он не понимает ни входящей, ни выходящей информации, но способен должным образом выполнять задачу. Полученные от него ответы будут отлично понятны тому, кто читает по-китайски, но не будут иметь никакого смысла для человека в запертой комнате. По Сёрлу, не важно, насколько точно человек мог следовать инструкциям и генерировать выглядящие осмысленными реакции, если он не понимает семантики и значения собственных ответов, ему нельзя сказать ничего, что он мог бы понять. В последующие 30 лет философы произвели на свет горы аргументов как «за» так и «против» позиции Сёрла [103].

Вся головоломка вокруг того, понимает или нет компьютер, исчезнет, если принять то, что понимание является ментальным ощущением, продуктом работы ментальной сенсорной системы. Поскольку у компьютера отсутствует такая присущая человеку сенсорная система, не следует ожидать от него понимания. Задавать этот вопрос бессмысленно. В то же время отсутствие понимания у компьютера не отвечает на вопрос, может ли машинная обработка информации рассматриваться как форма интеллектуального мышления. Большинство согласится, что возвращение в рабочее состояние вашего забарахлившего модема, сопровождаемое самым слабым представлением о том, как действуют установки модема, – пример разумного решения проблемы, которое крайне редко – если вообще когда-либо – ассоциируется с состоянием «ага!» или глубоким чувством реального понимания.

У компьютеров собственный тип интеллекта, основанный на тех данных и обратной связи, которые они аккумулируют. Мы принимаем как само собой разумеющееся, что они способны осуществлять расчеты, выходящие далеко за пределы человеческих возможностей, и что эти компьютерные способности будут и далее совершенствоваться с огромной скоростью, возможно, и в геометрической прогрессии. Мы принимаем без особых дискуссий, что компьютеры могут победить всех лучших игроков в «Свою игру», нарды или шахматы и способствовать (путем моделирования) дальнейшей разработке таких разноплановых вопросов, как теория игр, изменение климата и космология [104]. Разница лежит в природе этих расчетов. Без ощущений и связанной с ними ментальной сенсорной системы самый «продвинутый» компьютер, оснащенный самыми сложными программами, не может инкорпорировать в себя множество факторов, представляющих собой человеческую мудрость, и сформировать качественный процесс принятия решений, включающий сопереживание, сочувствие, юмор, иронию, чувство справедливости и эстетику. Способный создавать захватывающие дух образы нашей галактики и первых дней существования нашей Вселенной, компьютер не чувствует красоты или ужаса и не способен основывать свои решения на этих чувствах. Именно комбинация способности обрабатывать информацию и обладания непроизвольными ментальными ощущениями составляет наше отличие от компьютеров.

Эскиз мышления