Тени разума. В поисках науки о сознании

Думаю, что выражу общее мнение, если скажу, что среди продуктов такого рода деятельности пока нет ничего такого, что могло бы выдержать сравнение с любым творением умеренно способного художника-человека. Наверное, здесь уместно сказать, что даже при весьма значительных объемах предварительно введенных данных создаваемые компьютером «шедевры» оказываются напрочь лишены «души»! Иначе говоря, картина ничего не выражает, потому что компьютер ничего не чувствует.

Разумеется, случайно сгенерированная компьютерная работа может, просто по чистой случайности, оказаться и подлинным шедевром огромной художественной ценности. (Равно как и набирая буквы случайным образом, можно когда-нибудь получить «Гамлета».) В самом деле, следует признать, что и Природа способна волею случая сотворить настоящие произведения искусства, например, скалы причудливых очертаний или звезды в небе. Однако без способности чувствоватьэту красоту невозможно отличить прекрасное от безобразного. Фундаментальная ограниченность полностью вычислительной системы проявится в полной мере еще в процессе отбора.

Опять же можно представить, что человек снабдит компьютер вычислительными критериями для такого различения, и это, возможно, какое-то время будет работать, коль скоро машине останется только генерировать очередные вариации на тему все того же эталона (возможно, так и создается большая часть рядовых «произведений» популярного искусства) — до тех пор, пока плоды такой деятельности не станут вызывать зевоту и нам не захочется чего-нибудь нового. На этом этапе машине потребуется какое-либо подлинноеэстетическое суждение извне, чтобы выяснить, какие «новые идеи» имеют художественную ценность, а какие — нет.

Итак, помимо способности к пониманию, существуют и другие качества, каким полностью вычислительная система никогда не «научится» — например, способность к  эстетическомувосприятию. Сюда же, как мне представляется, следует отнести и все прочие качества и способности, что требуют осознания, — например, способность к нравственномусуждению. Как мы убедились в первой части книги, суждение об  истинностиили ложностиутверждения невозможно свести к чистому вычислению. То же применимо (возможно, даже с большей очевидностью) и к суждениям о прекрасномили о добром. Все эти способности требуют осознания и, как следствие, недоступны роботам с полностью компьютерным управлением. Для имитации роботом наличия этих способностей необходимо постоянное дополнительное управляющее воздействие со стороны какой-либо внешней, чувствующей и осознающей себя сущности — предположительно, человека.

Безотносительно к невычислительной природе упомянутых качеств, можно поинтересоваться, являются ли «красота» и «доброта» идеями абсолютнымив платоновском смысле этого слова, где определение «абсолютный» применимо только к истине — в особенности, к математической истине. Сам Платон высказывался в поддержку такой точки зрения. Может быть, осознавая, мы каким-то образом связываемся с этими абсолютами, и именно в этом заключается уникальное предназначение сознания? Может быть, здесь и следует искать ключ к тому, чемнаше сознание является в действительности и для чегооно нам дано? Не играет ли сознание роль своего рода «моста» между физическим миром и миром платоновских абсолютов? Эти вопросы мы еще раз затронем в последнем параграфе книги.

Вопрос об абсолютной природе нравственности имеет самое прямое отношение к юридическим проблемам, описанным в §1.11. Некоторым образом связан с ним и вопрос о сущности «свободы воли», поставленный в конце §1.11: возможно ли, что есть нечто, что не определяется наследственностью, влиянием окружения и всевозможными случайными факторами, — некая отдельная «самость», играющая ведущую роль в управлении нашими действиями? Я думаю, что мы пока еще очень далеки от ответа на этот вопрос. С полной уверенностью я могу утверждать (и аргументированно доказывать) лишь одно: что бы ни управляло в конечном счете нашим поведением, это что-то в принципе находится за пределами возможностей тех устройств, которые мы сегодня называем «компьютеры».

8.4. Опасности компьютерных технологий