Вселенная. Происхождение жизни, смысл нашего существования и огромный космос

Случай миссис Д. не уникален. Известно много других пациентов, страдавших от каких-либо повреждений мозга, радикально сказывавшихся на их эмоциональном состоянии или личности. Вне всяких сомнений, это отнюдь не доказывает, что «разум» — это всего лишь способ рассуждения о том, что происходит в физическом мозге. Но, в сущности, это должно снижать для нас субъективную вероятность традиционного картезианского дуализма до минимального уровня.

Остаются два варианта: либо физикализм (весь мир, считая людей, имеет чисто физическую природу), либо какой-нибудь новомодный вариант некартезианского дуализма. Чтобы окончательным разобраться с этим вопросом, нужно более глубоко поразмыслить о том, что значит быть сознающим, чувствующим человеком.

Глава 39 Каково это — мыслить?

В романе Роберта Э. Хайнлайна «Луна жёстко стелет» колонисты-лунтики восстают против Главлуны. Их положение было бы практически безнадёжным, если бы не Майк — центральный компьютер, управлявший всеми основными автоматизированными процессами в большинстве лунных городов. Майк был не просто очень важной машиной — он совершенно спонтанно обрёл самосознание. Вот как это описывает рассказчик, Мануэль О’Келли Дэвис.

В мозгу у человека что-то около десяти в десятой нейронов. По третьему году в Майка нейристоров запичужили столько и ещё полстолько.

И он созрел.

Мануэль О’Келли Дэвис — наладчик компьютеров, не особенно задумывающийся о том, как у Майка пробудилось сознание и каковы глубинные причины этого. Совершается революция, она должна победить, а появление самосознания — вероятно, такая штука, которая всегда происходит с думающими устройствами, как только они становятся достаточно крупными и сложными.

Вероятно, в реальности всё несколько сложнее. В человеческом мозге много нейронов; но они не просто соединены как попало. У коннектомы есть структура, постепенно развившаяся под действием естественного отбора. Есть такая структура и в архитектуре компьютера как на программном, так и на аппаратном уровне, но представляется маловероятным, что подобная компьютерная архитектура может обрести самосознание просто по воле случая.

А что, если бы такое произошло? Как бы мы узнали, что компьютер именно думает, а не просто выполняет бездумные операции с числами? (И есть ли разница?)

* * *

Некоторыми из этих проблем ещё в 1950 году занимался британский математик и информатик Алан Тьюринг. Тьюринг описал так называемую игру в имитацию, более известную под названием «Тест Тьюринга». С восхитительной прямотой Тьюринг начинает статью словами: «Я собираюсь рассмотреть вопрос “Могут ли машины мыслить?”». Но сразу же решает, что подобный вопрос потонул бы в бесконечных спорах о терминологии. Поэтому, в лучших научных традициях, он отбрасывает этот вопрос и заменяет более прикладным: может ли машина беседовать с человеком таким образом, чтобы человек принял эту машину за другого человека? (Самые лучшие философские традиции с упоением увлекли бы нас в споры о терминологии). Тьюринг утверждал, что способность сойти за человека в таком испытании — разумный критерий, определяющий, что такое «думать».

Тест Тьюринга закрепился в нашем культурном лексиконе, и мы регулярно читаем новостные сюжеты о том, что та или иная программа наконец-то прошла тест Тьюринга. Пожалуй, в это сложно не поверить — ведь мы живём в окружении машин, которые рассылают нам электронную почту, управляют нашими автомобилями и даже говорят с нами. На самом деле ни один компьютер и близко не подобрался к прохождению настоящего теста Тьюринга. Те соревнования, о которых пишут в новостях, неизменно устроены так, чтобы собеседники не могли озадачить компьютер таким образом, как предполагал Тьюринг. Вероятно, когда-нибудь мы достигнем такого уровня, но современные машины не «думают» в тьюринговском понимании.

Когда и если нам удастся сконструировать такую машину, которая к почти всеобщему удовлетворению пройдёт тест Тьюринга, мы по-прежнему будем спорить о том, на самом ли деле машина «думает» именно так, как думает человек. Существует проблема сознания, а также смежная с ней проблема «понимания». Неважно, насколько умные беседы сможет вести компьютер, — вопрос в том, сможет ли он по-настоящему понимать, о чём говорит? Если речь зайдёт об эстетике или эмоциях, сможет ли программа, работающая на кремниевом транзисторе, оценить красоту или испытать скорбь, подобно человеку?