Бог. Новые ответы у границ разума

Это, возможно, было бы более очевидно для нас, если бы мы не были жертвами наших собственных метафор. Мы настолько привыкли говорить о компьютерах как об искусственных умах и их операциях, что забываем, что это всего лишь фигуры речи. Например, мы говорим о компьютерной памяти, но, конечно, компьютеры ничего не помнят. Они даже не хранят никакой «запоминающейся» информации – в смысле символов с реальным смысловым содержанием, реальным смыслом, – а лишь сохраняют двоичные паттерны определенных электронных обозначений. И я не имею в виду только то, что компьютеры не знают о той информации, которую они содержат, я имею в виду, что сами по себе они вообще не содержат никакой семантической информации. Это всего лишь кремниевый пергамент и электрические чернила, с помощью чего мы записываем символы, обладающие смысловым содержанием только в отношении наших интенциональных представлений об их значениях. Компьютер не больше запоминает файлы, хранящиеся в нем, чем бумага и печать этой книги помнит мою аргументацию до этого момента. Нельзя также с уверенностью утверждать, что, хотя компьютерная «память», возможно, и не имеет интенционального смысла, все же «высшие функции» программного обеспечения компьютера преобразуют эти системы обозначений в когерентные значения, интегрируя их в более крупную функциональную систему. Более высоких функций и программ как таковых нет ни в компьютере, рассматриваемом исключительно как физический объект, ни в его операциях, рассматриваемых исключительно как физические события; существуют только материальные компоненты машины, электрические импульсы и бинарные паттерны, которые мы используем для построения определенных репрезентаций и которые имеют смысл только до тех пор, пока они являются объектами репрезентирующего внимания со стороны сознательного разума. Назовите это порочным кругом, кругом иронии, диалектикой проекции или как хотите: мы наложили метафору искусственного разума на компьютеры, а затем переосмыслили образ мыслящей машины и навязали его нашему разуму. Если вы адресуете письмо себе и отправите его по почте, оно почти наверняка вернется к вам, но вы будете с тупой яростью рвать конверт в надежде найти что-то неожиданное внутри.

Модели разума, основанные на компьютерной технологии, имели бы смысл, если бы то, что компьютер на самом деле делает, можно было охарактеризовать как элементарную версию того, что делает разум, или, по крайней мере, как нечто отдаленно похожее на мышление. На самом деле, однако, здесь нет даже пригодной аналогии. Компьютер в действительности не вычисляет. Мы вычисляем, используя его как инструмент. Мы можем запустить программу для вычисления квадратного корня числа Пи, но поток цифр, который появится на экране, будет иметь математическое содержание только вследствие наших интенций и потому что мы, а не компьютер, запускаем алгоритмы. Сам по себе компьютер, как объект или ряд физических событий, не содержит и не производит никаких символов; его операции определяются не каким-либо семантическим содержанием, а только двоичными последовательностями, которые ничего не значат сами по себе. Видимые фигуры, появляющиеся на экране компьютера, являются лишь электронными следами множеств бинарных коррелятов, и они служат символами только тогда, когда мы представляем их как таковые и присваиваем им понятные значения. Компьютер также можно запрограммировать так, чтобы он отвечал на запрос квадратного корня из числа Пи с результатом «медвежонок Руперт»; и это не было бы неправильно, потому что собрание только материальных компонентов и чисто физических событий не может быть ни неправильным, ни правильным относительно чего бы то ни было. Программное обеспечение не более «думает», чем минутная стрелка знает время или печатное слово «пеликан» знает, что такое пеликан. Мы можем с тем же успехом уподобить разум счётам, пишущей машинке или библиотеке. Ни один компьютер никогда не использовал язык, не отвечал на вопрос и не придавал значения чему-либо. Ни один компьютер никогда не складывал и не сложит два числа вместе и уж тем более никогда не имел и не сможет иметь ни одной мысли. Единственный вид «ума» или «сознания», или даже иллюзии сознания при любых вычислительных процессах находится в нас – и он совершенно не подлежит «вычислению» (computation); все, казалось бы, похожее на разум в наших машинах, сводится, при корректном рассмотрении, опять к нашему же собственному разуму, и мы заканчиваем там же, где и начали, погруженные в ту же тайну, что и всегда. В обратное мы верим только тогда, когда, подобно Нарциссу, склонившемуся над водой, смотрим на свои творения и, плененные тем, что в них видим, воображаем, будто некий другой взгляд встретился с нашим собственным.[68]