Жизнь в невозможном мире

Сэр Роджер известен широкой публике как писатель, автор нескольких замечательных популярных книг, посвященных наиболее острым проблемам физики и математики. Являясь одним из самых блестящих умов в своей области (наиболее серьезные его достижения относятся к теории гравитации), сэр Роджер знает, о чем пишет.

Наиболее известная российскому читателю книга Пенроуза — «Новый ум короля» — посвящена проблеме искусственного интеллекта. В этой книге он отстаивает ту точку зрения, что человеческий интеллект является именно человеческим, то есть его нельзя воспроизвести в какой-то другой конструкции, поскольку физический состав нашего мозга играет определяющую роль в том, как функционирует наше мышление и как мы решаем возникающие перед нами задачи. По этой причине популярное ныне сравнение человека с компьютером ложно.

Книга начинается с вопроса о том, нужно ли, приступая к выполнению какой-то задачи, понимать, что ты делаешь, или же можно безо всякого понимания ограничиться просто четким выполнением набора инструкций. Именно так, то есть скрупулезно, шаг за шагом следуя инструкциям, действуют все известные нам машины. Все они, независимо от конкретной конструкции, являются различными воплощениями так называемой универсальной вычислительной машины, или «машины Тьюринга», подробно обсуждаемой Пенроузом. Такая машина работает алгоритмически, то есть все ее операции происходят в виде дискретных шагов и так, что каждый следующий шаг обусловлен предыдущими. В то же время то, что мы называем пониманием, связано с охватом проблемы в целом и является, таким образом, примером неалгоритмического поведения. Несмотря на кажущуюся очевидность последнего утверждения, оно усиленно оспаривалось и продолжает оспариваться. Даже сам великий британский математик Тьюринг, введший понятие универсальной машины, считал, что мозг тоже является такой машиной, хотя, надо отдать ему справедливость, твердой уверенности в этом у него не было.

Идейным союзником Тьюринга в вопросе о природе человеческого мышления являлся другой знаменитый английский математик и лауреат Нобелевской премии по литературе (!) — Бертран Рассел. Еще в начале XX века, то есть задолго до Тьюринга, Рассел занялся разработкой алгоритма, который бы позволил построить человеческий язык, исходя непосредственно из данных нашего опыта. Существенной чертой алгоритма Рассела была опять-таки дискретизация реальности; предполагалось, что все наши ощущения можно разбить на отдельные кусочки, из которых потом должна каким-то образом синтезироваться единая картина нашего сознания. На поверку программа Рассела оказалась неосуществимой; после сорока лет дискуссий коллега Рассела по колледжу Троицы в Кембридже Людвиг Витгенштейн доказал, что человеческий язык оперирует понятиями, которые расселовский алгоритм бессилен построить. К утверждениям такого рода относится, например, «Раскольников виновен в убийстве». Оказалось, что понимание этой простой фразы требует введения огромного количества дополнительных понятий, таких как «суд», «жюри», «допустимые законом свидетельские показания», и все эти понятия не могут быть сведены к простым человеческим действиям, как этого требует расселовский алгоритм.

Однако, несмотря на данные Витгенштейном доказательства, идеи Рассела не вышли из обращения и положены в основу популярной в нейробиологии теории нейронных сетей.

Если Тьюринг и Рассел правы и мозг действительно действует как универсальная машина, то весьма вероятно, что все действия человека однозначно определены комбинацией физических факторов, даваемых его окружением и устройством его тела, и он ни в каком смысле не свободен и не может отвечать за свои поступки. Понятие преступления теряет смысл и должно быть заменено чем-то вроде нежелательного поведения, которое надо по возможности исправлять методами медицины и социальной инженерии. Нашему сознанию в таком случае совершенно нечего делать, оно есть либо иллюзия (непонятно только чья?), либо безвольный узник, заключенный в тело, как в тюрьму.

Пожалуй, можно сказать, что Роджер Пенроуз стал следующим после Витгенштейна серьезным критиком теории «мозг=компьютер». Дав длинный и подробный разбор аргументов Тьюринга и сторонников его теории, Пенроуз показал или, скорее, напомнил читателям о том, что человек способен решать задачи, которые машина Тьюринга решать не может, и, следовательно, наше мышление не является алгоритмическим.