ГЕДЕЛЬ, ЭШЕР, БАХ: эта бесконечная гирлянда

Я убежден в том. что машины не могут быть оригинальными в том смысле, какой вложил в это понятие Винер, когда он написал: «Машины могут превосходить некоторые ограничения их создателей и уже это делают. Благодаря этому, они могут быть одновременно эффективными и опасными.»… Машина — это не вызванный из бутылки джинн; она не работает с помощью магии. У нее нет собственной воли, и, вопреки тому, что говорит Винер, из нее не выходит ничего, что не было бы в нее заложено (исключая, разумеется, редкие случаи поломок).

«Намерения», которые выказывает машина, на самом деле являются намерениями человека-программиста, оговоренными заранее, или же вторичными намерениями, выведенными из первых согласно правилам, установленным тем же программистом. Мы можем даже, подобно Винеру, предвидеть некий высший уровень абстракции, на котором программа не только будет модифицировать вторичные намерения, но и правила, используемые для их деривации — или же будет варьировать способы самой этой модификации… и так далее. Можно даже вообразить, что машина сумеет построить другую машину с улучшенными возможностями. Однако — и это важно помнить — машина не может и не будет проделывать ничего подобного, пока в нее не введут соответствующие инструкции. Существует и логически должен всегда существовать пробел между (i) любым конечным продуктом разработки человеческих желаний и (ii) развитием в машине ее собственной воли. Думать иначе — значит либо верить в магию или считать, что человеческая свободная воля — это иллюзия и что человеческие действия так же механистичны, как и действия машины. Может быть, и статья Винера и мое опровержение были механистически предопределены — но я отказываюсь в это верить.[87]

Это напоминает мне Диалог Кэрролла («Двухголосная инвенция») и вот почему. Самуэль основывает свой аргумент против машинного сознания (или воли) на понятии, что любое механическое проявление воли с необходимостью потребует бесконечного регресса. Таким же образом, Кэрроллова Черепаха пытается доказать, что даже простейшее рассуждение не может быть проведено без обращения к неким правилам высшего уровня, разрешающим данное рассуждение. Но поскольку это, в свою очередь, тоже шаг рассуждения, то приходится обращаться к правилам еще более высокого уровня — и так далее. Заключение: рассуждения приводят к бесконечному регрессу.

Разумеется, в доводах Черепахи есть ошибка, и я думаю, что аналогичная ошибка имеется и в рассуждениях Самуэля. Чтобы показать, в чем эти ошибки похожи, я сыграю роль «адвоката дьявола», пытаясь доказать точку зрения, противоположную моей собственной. (Поскольку, как известно, Бог помогает тем, кто помогает себе сам, то дьявол, вероятно, помогает тем и только тем, кто сам себе не помогает. Помогает ли Дьявол сам себе?) Вот мои «дьявольские» заключения, выведенные из Диалога Кэрролла: