Опасная идея Дарвина: Эволюция и смысл жизни

Итак, как мог Пенроуз упустить эту, как нам сейчас кажется, очевидную возможность? Он – математик, а математики в первую очередь заинтересованы в том Исчезающе малом подмножестве алгоритмов, которые, как они могут математически доказать, обладают интересными математическими свойствами. Я называю это созерцанием алгоритмов с точки зрения Бога. Такая позиция аналогична рассмотрению с той же точки зрения томов в Вавилонской библиотеке. Можно «доказать» (в чем бы ни заключалась польза такого доказательства), что в Вавилонской библиотеке есть один том, где в точном алфавитном порядке перечисляются все телефонные номера абонентов Нью-Йорка, чье состояние на 10 января 1994 года составляло больше миллиона долларов. Так должно быть – в Нью-Йорке не может быть настолько много абонентов-миллионеров, а потому один из возможных томов библиотеки должен содержать их полный список. Но найти – или написать – такую книгу будет сложнейшей эмпирической задачей, чреватой множеством неопределенностей и спорных решений, даже если мы просто рассмотрим список в ней как подмножество имен, уже напечатанных в существующей в реальности телефонной книге, содержащей актуальную на 10 января 1994 года информацию (и проигнорируем те, чьи номера в ней не указаны). Хотя мы и не можем взять такую книгу в руки, можно дать ей название – так же как мы титуловали Митохондриальную Еву. Озаглавим ее Мегатом. И мы можем доказывать истинность высказываний в отношении Мегатома: например, первая буква на странице, где есть шрифт, – буква «А», но первая буква на последней странице со шрифтом – не «А». (Разумеется, это не вполне соответствует требованиям математического доказательства, но каковы шансы на то, что ни у одного телефонного абонента, чья фамилия начинается на «А», нет миллиона или что во всем Нью-Йорке таких миллионеров наберется лишь на одну страницу?)

Как я отмечал на с. 66, математики обычно думают об алгоритмах с точки зрения Бога. Например, они заинтересованы в том, чтобы доказать, что существует некий алгоритм с каким-то интересным свойством или что такого алгоритма нет, и чтобы доказать это, не нужно на самом деле искать алгоритм, о котором вы говорите, – скажем, вытаскивая его из груды алгоритмов, записанных на дискетах. Наша неспособность найти Митохондриальную Еву (ее останки) также не мешает нам с помощью дедукции что-то о ней узнавать. Таким образом, эмпирическая проблема отождествления в таких формальных умозаключениях встает нечасто. Теорема Гёделя говорит нам, что ни один из алгоритмов, которые можно проиграть на моем «Тошиба» (или любом ином компьютере), не обладает определенным математически интересным качеством: быть внутренне непротиворечивым производителем доказательств арифметических фактов, который (при условии наличия достаточного времени) производит их все.

Интересный факт, но помощи от него мало. Можно математически доказать множество интересных фактов о каждом из представителей разнообразных наборов алгоритмов. Применение этих знаний в реальном мире – совсем иное дело, и это-то и есть слепое пятно, из‐за которого Пенроуз совершенно упустил искусственный интеллект из виду вместо того, чтобы, как он рассчитывал, опровергнуть идею о нем. Это вполне очевидно из последовавших позднее, в ответ на замечания критиков, попыток переформулировать тезис.

Если взять любой конкретный алгоритм, то этот алгоритм не может быть той самой процедурой, в результате которой люди-математики устанавливают математическую истину. Следовательно, люди вовсе не используют алгоритмы для установления истины772.

Для установления математической истины люди-математики не используют алгоритм, корректность которого логически доказуема773.

В более позднем ответе критикам Пенроуз рассматривает и закрывает различные «лазейки», две из которых нам особенно интересны: математики могут прибегать к «ужасно сложному непостижимому алгоритму X» или «некорректному (но, предположительно, почти корректному) алгоритму Y». Пенроуз описывает эти лазейки так, будто бы это ответы ad hoc на вызов, брошенный теоремой Гёделя, а не стандартные рабочие допущения при работе с искусственным интеллектом. О первой он заявляет: