Краткая история философии

Алан Тьюринг (1912–1954) – выдающийся математик из Кембриджа, заложивший основы современной кибернетики. Созданные им во время Второй мировой войны вычислительные устройства помогли раскодировать шифр «Энигмы», использовавшийся для связи на немецких подводных лодках. Благодаря этому командование союзников могло заранее узнать о планах нацистов.

Задумавшись о том, что когда-нибудь компьютеры смогут не только взламывать коды шифрования, но, возможно, станут по-настоящему разумными, в 1950 году Тьюринг предложил тест, который, как ему казалось, позволит понять, так ли это или нет. Это – тест для определения искусственного интеллекта, хотя сам автор предпочитал именовать его «игрой в имитацию». Почему? Возможно, он хотел подчеркнуть, что в мозге нас прежде всего интересует не физическая форма – будучи вынутым из черепной коробки мозг напоминает холодную серую кашу, – но та функция, которую он выполняет. Из этого следует, что в компьютерах нас также не должен смущать факт, что они состоят из пластика и электронных цепей, важно лишь то, что компьютеры (предкомпьютеры в случае Тьюринга) способны выполнять многое из того, на что способен человеческий мозг. Имитировать – можно сказать и так.

Когда мы пытаемся определить, насколько умен тот или иной человек, мы задаем ему вопросы и делаем выводы на основании ответов, а не вскрываем ему череп, чтобы посмотреть, как там все устроено. Поэтому логично, если при оценке того, насколько разумен компьютер, мы также будем исходить не из внутреннего устройства, но из того, какие ответы компьютер дает. Иными словами, важно лишь то, что мы вводим и что получаем на выходе, а не провода и микросхемы.

Предложение Тьюринга звучало следующим образом. Человек ведет переписку… он не знает, с кем – с другим человеком или с компьютером. Тест для компьютера считается пройденным (искусственный интеллект налицо), если человек не может сказать, с кем он переписывался – с другим человеком или с машиной.

Мысленный эксперимент Джона Сёрла был призван продемонстрировать, что даже если компьютер пройдет тест Тьюринга, это вовсе не доказывает, что он обладает разумом. Как вы помните, в эксперименте Сёрла человек сидит в комнате, куда поступают карточки с китайскими иероглифами. В соответствии с инструкцией, он достает нужную карточку. Что там на этой карточке, он не знает, то есть по большому счету его действия бессмысленны. Если бы он знал китайский – другое дело, но китайского он не знает. Но ему все же удается убедить другого участника эксперимента, что он делает осмысленный выбор, что он якобы ведет разумный диалог.

Этот мысленный эксперимент доказывает, что компьютер, которому удалось пройти тест Тьюринга, «разумным» в нашем понимании этого слова не является – он просто механически выполняет заданные действия.

Всё, что делают компьютеры, полагает Сёрл, – это выдают символы в соответствии с заложенной в них программой. Манипулировать информацией еще не значит понимать ее, и программе, вложенной в компьютер, далеко до подлинного разума. Можно также сказать, что человек, который написал программу, всего лишь дал компьютеру синтаксис, то есть правила обработки символов, но не семантику, то есть значение этих символов. При общении люди стремятся выразить смысл – то, как их мысли сообразуются с миром вокруг. Компьютеры лишь имитируют процесс мышления, как попугаи имитируют человеческую речь. Даже если попугай произносит фразы корректно, а иногда и к месту, это еще не означает, что он понимает, что говорит. Семантика не может быть построена исключительно на синтаксисе, а значит, компьютеры не способны думать или понимать.

Оппоненты Сёрла заявляли, что слабое место его мысленного эксперимента состоит в том, что в нем все внимание обращено только на человека: понимает ли человек, находящийся в комнате, что он делает, или нет. С их точки зрения, это было ошибкой. Ведь человек в данном примере – всего лишь часть системы, в которую входят сама комната, инструкция и корзинки с иероглифами. Даже если сам человек не понимает значения своих действий, то, возможно, это осознает система в целом.

В ответ на критику Сёрл несколько изменил свой пример. Не надо никакого человека, запертого в комнате, пусть будет человек, который выучил инструкцию наизусть. Он по-прежнему не понимает, что написано на карточках, но умудряется давать правильные ответы. Тем самым философ хотел подчеркнуть, что понимание предполагает нечто большее, чем способность давать правильные ответы, и система тут ни при чем.