Гёдель, Эшер, Бах. Эта бесконечная гирлянда

Как видите, многие возражения связаны друг с другом и частично совпадают. В этой книге я попытался так или иначе ответить на каждое из них, хотя и менее четко, чем это сделал Тюринг. Возражение (9) кажется мне удивительным. Я видел эту статью Тюринга, перепечатанную в книге — но там возражение (9) опущено, что мне кажется не менее удивительным. Лично я, в отличие от Тюринга, считаю, что экстрасенсорных способностей (ЭСС) не существует. Тюрингу пришлось согласиться с идеей ЭСС, поскольку его выдающаяся научная честность заставила его принять последствия того, что казалось ему мощной статистической очевидностью в пользу этой идеи. Я с этим не согласен, но, тем не менее, считаю это необыкновенно интересным и сложным вопросом.

«Парри встречается с Доктором»

В предыдущем Диалоге вы прочли запись подлинной беседы между компьютерной программой и человеком. Существует множество программ с меньшей, чем у ШРДЛУ, способностью к «беседе». Две довольно известные программы такого рода — это «Доктор» (создание Иосифа Вайценбаума) и «Парри» (детище Кеннета Колби). Первая была призвана имитировать психиатра, используя «недирективную» терапию, в то время как вторая должна была изображать типичного параноика. Однажды по компьютерной сети была устроена забавная встреча этих двух программ; ниже приводится отрывок из их «беседы»:[68]

Парри: Я не понимаю ваших мотивов.

Доктор: Почему вы не понимаете моих мотивов?

Парри: Не должен ли я быть таким?

Доктор: Почему вы сейчас это сказали?

Парри: Это именно так и есть.

Доктор: А вы представьте себе, что это именно не так.

Парри. Ну и что?

Доктор. Я не уверен, что вполне вас понимаю.

Парри: Вы слишком привязываетесь к одним тем же вопросам.

Доктор: О чем говорит вам это сходство?

Парри: Я вас не понимаю.

Доктор: Вы хотели бы понимать я?

Парри: Хорошо бы, чтобы вы начали проявлять интерес к моим чувствам.

Доктор: Что? Я начал проявлять интерес к вашим чувствам?

Разумеется, эти программы были созданы для разговоров с людьми; поэтому, разговаривая друг с другом, они показывают себя не с лучшей стороны. В основном они опираются на ловкие догадки в отношении вводных данных (анализируя их довольно поверхностно) и выдают готовые ответы, тщательно выбранные из обширного репертуара. Ответ может быть готовым только частично: например, может использоваться некая схема, в которой заполняются пробелы. При этом имеется в виду, что собеседник-человек будет придавать ответам гораздо больше смысла, чем в них есть на самом деле. В действительности, согласно тому, что Вайнценбаум утверждает в своей книге «Мощь компьютеров и человеческий разум» (Weizenbaum, «Computer Power and Human Reason»), именно так и происходит. Он пишет:

ЭЛИЗА (программа, на основе которой был разработан Доктор) создавала удивительную иллюзию проникновения в мысли многих людей, которые с ней разговаривали… Они часто просили позволения побеседовать с системой наедине, после чего говорили, несмотря на мои объяснения, что машина их по-настоящему поняла.[69]

После прочтения предыдущего «разговора» читатель может подумать, что это невероятно. Может быть — но это чистая правда! Вайценбаум объясняет:

Большинство людей совершенно ничего не понимают в компьютерах. Поэтому, если только они не способны на значительную долю скептицизма (того скептицизма с которым мы наблюдаем за действиями фокусника), они могут объяснить интеллектуальные достижения компьютера только путем единственной доступной им аналогии — то есть модели их собственного мышления. Таким образом не удивительно, что они преувеличивают почти невозможно вообразить человека, который мог бы имитировать ЭЛИЗУ, но для которого при этом ее языковые способности являлись бы пределом.[70]

Это равносильно признанию того, что подобные программы являются остроумной смесью бравады и блефа и их успех основан на людской доверчивости.

В свете странного «эффекта ЭЛИЗЫ» многие предлагали пересмотреть тест Тюринга, поскольку, по-видимому людей легко одурачить простенькими уловками. Было предложено, чтобы ведущим был лауреат Нобелевской премии. Возможно, было бы целесообразнее перевернуть тест с ног на голову и сделать так, чтобы вопросы задавал компьютер. Или может быть, вопросы должны задавать двое — человек и компьютер, а отвечать — кто-то один, и спрашивающие должны догадаться компьютер это или человек.