Опасная идея Дарвина: Эволюция и смысл жизни

Чтобы конкретизировать вопрос, рассмотрим какие-нибудь весьма специфические разновидности математических истин. Хорошо известно, что не может быть универсальной программы, способной проанализировать любую другую программу и сказать, есть ли в ней бесконечный цикл и будет ли она, следовательно, работать без остановки, если ее запустить. Это – так называемая проблема остановки, и существует «гёделевское» доказательство ее неразрешимости. (Это – одна из теорем, на которые намекал Тьюринг в комментарии 1946 года, процитированном в начале главы.) Ни одна программа, которая гарантированно имеет конец, не может сказать о каждой (конечной) программе, закончится ли она или нет. Но может оказаться небесполезно (и дело стоит того, чтобы потратить кругленькую сумму) иметь под рукой программу, которая очень, очень хороша (если не совершенна) в выполнении этой задачи. Другой класс интересных проблем известен как Диофантовы уравнения: не существует алгоритма, который гарантированно решал бы все такие уравнения. Если бы на кону стояли наши жизни, следовало бы нам потратить деньги на «принципиальное» решение Диофантовых уравнений или «принципиальную» проверку программ на остановку? (Не забывайте: деньги на вечные двигатели нам не стоит тратить даже ради спасения своих жизней, ибо мы потратили бы их на выполнение невыполнимого задания.)

Ответ Пенроуза многое объяснял: если бы кандидаты на проверку «просто каким-то образом возникали из-под земли», то было бы разумно потратить на нее деньги, но если бы кандидатов создавал, а затем проверял при помощи нашего детектора истинности некий разумный актор, то он мог бы одурачить наш алгоритмический детектор, безошибочно конструируя «неверного» кандидата или кандидатов, – уравнение, которое тот не способен решить, или программу, перспектива окончания которой будет ставить его в тупик. Для наглядности можно вообразить себе космического пирата по имени Румпельштицхен, который взял в заложники планету, но освободит ее, не нанеся никакого вреда, если мы сможем ответить на тысячу бинарного типа вопросов об арифметических предложениях. Следует ли нам вызвать на свидетельскую трибуну математика-человека или компьютеризированный детектор истинности, созданный самыми лучшими программистами? Согласно Пенроузу, если мы предоставим свою судьбу компьютеру и позволим Румпельштицхену увидеть его программу, он сможет воспользоваться его уязвимым местом и придумать такое предложение, которое одурачит машину. (Это было бы так вне зависимости от теоремы Гёделя, будь наша программа эвристическим детектором истинности, подобно любой шахматной программе предпринимающим рискованные действия.) Но Пенроуз не дал нам оснований считать, что с любым математиком-человеком, которого мы можем вызвать на свидетельскую трибуну, ничего подобного не произойдет. Никто из нас не совершенен, и даже у команды экспертов, без сомнения, есть какие-то слабости, которыми мог бы воспользоваться Румпельштицхен, будь у него достаточно информации о мозге каждого из ее членов. Фон Нейман и Моргенштерн изобрели теорию игр, чтобы подойти к решению определенного класса сложных проблем, с которыми нас сталкивает жизнь, когда в мире существуют другие акторы, с которыми приходится соперничать. Человек вы или компьютер, защитить свой мозг от таких конкурентов всегда разумно. Причина, по которой в данном случае важно наличие конкурирующего актора, заключается в том, что пространство всех математических истин Чрезвычайно велико, пространство решений Диофантова уравнения является его Чрезвычайно большой, но при том Исчезающе малой областью, и шансы случайно натолкнуться на истину, которая «сломает» или «побьет» нашу машину, пренебрежимо малы, тогда как разумный поиск в этом пространстве, направляемый знанием о конкретном стиле мышления и ограничениях оппонента, вполне вероятно приведет к искомой иголке в стоге сена: сокрушительному контрманевру.

В Абиско Рольф Вазен поднял еще один интересный вопрос. Класс интересных алгоритмов, без сомнения, включает множество алгоритмов, не являющихся доступными человеку. Образно говоря, в Библиотеке «Тошиба» есть программы, которые будут работать на моем «Тошиба» (и я стану ценить их за те чудеса, которые они для меня творят), но которые никогда не смогут создать люди-программисты или какие-либо из сотворенных ими артефактов (программы, пишущие программы, уже существуют)! Как это возможно? Ни одна из этих удивительных программ не длиннее мегабита, и уже сейчас у нас есть множество действующих программ гораздо большей длины. И опять нам нужно напомнить себе, насколько велико Чрезвычайно большое пространство таких возможных программ. Как бы усердно мы ни работали, но, как и в пространстве возможных пятисотстраничных романов, или пятидесятиминутных симфоний, или поэм в пятьсот строк длиной, в пространстве программ длиной в мегабит будут актуализированы лишь тончайшие прутики реальности.