Разум: от начала до конца. Новый взгляд на эволюцию сознания от ведущего мыслителя современности

В научных же исследованиях машинное обучение используется для решения посредством грубой силы проблем, находящихся за гранью человеческих возможностей проанализировать их. Примечательно, что покойный Ричард Фейнман[221], блестящий физик-теоретик, провел большую часть последних дней своей жизни за исследованием возможности использования суперкомпьютера для решения физических проблем, которые не поддавались даже его способности к решению уравнений. И он дожил до того момента, когда его умение стало ненужным. Хотя утверждение о том, что то, что вы не можете сделать своими руками, не может быть понято, по-прежнему иногда верно, но создание чего-либо уже не гарантирует понимание, как это было прежде. Сегодня можно сделать – причем косвенным путем – вещи, которые будут делать то, что вы хотите, чтобы они делали, но при этом вы не будете понимать как. Иногда это явление называют научным черным ящиком. Вы покупаете новейший хай-тек черный ящик, вводите в него необработанные данные и получаете результаты анализа; графики можно распечатать и опубликовать, хотя вы не можете объяснить в деталях, как это работает, починить ящик, если он сломается, и не ясно, сможет ли кто-то другой это сделать. Конечно, эта возможность всегда угрожала нам, конечно, вещи, которые мы делаем «руками» (лодки, мосты, двигатели, симфонии), можно контролировать в процессе созидания, понимая все необходимые стадии процесса. Вещи, которые мы делаем «старым дедовским способом» (дети, внуки…), не поддаются нашему пониманию, поскольку мы не обращаем внимания на детали процесса. Сегодня мы создаем детей разума, внуков разума, праправнуков разума, зависимых от процессов, которые мы не можем проследить в деталях, даже если можем подтвердить высокую надежность результатов.

Использование компьютеров в исследованиях породило особый тип проблем, связанных с максимой Фейнмана. Некоторые математические доказательства, выведенные (полностью или частично) компьютером, порой слишком трудоемки для одного математика, он физически не может проверить каждый шаг, а ведь тысячелетиями стандартные доказательства предполагали именно это. Что это может дать? Знаменитым примером помощи компьютера в доказательстве теоремы стало решение в 1976 году проблемы четырех цветов, впервые предложенной Мебиусом еще в 1840-х годах. Любая карта смежных областей, разделенных общими границами, может быть окрашена всего в четыре цвета таким образом, чтобы один и тот же цвет никогда не появлялся по обе стороны границы. Многие знаменитые математики пытались доказать теорему, но безуспешно, пока Кеннет Эппел и Вольфганг Хакен не привлекли компьютер, с его помощью они смогли рассмотреть и отбросить почти 2000 различных вариантов, которые, как они ранее доказали, должны быть изучены. В течение нескольких лет это доказательство не принималось научным сообществом, поскольку компьютер выполнил серию шагов, физически недоступных человеку, однако сегодня среди математиков установился консенсус, они все-таки считают теорему доказанной. (Появились и альтернативные доказательства, тоже сделанные с помощью компьютера.) Результат был «интуитивным»: никому и раньше не удалось привести четкий пример существования иного решения, несмотря на многолетние попытки, и математики верили в теорему задолго до современного доказательства. В шахматах, к примеру, существует правило пятидесятого хода, после которого игра объявляется ничьей, если ни одна фигура не была взята и ни одна пешка не сделала хода; это правило долгие годы считалось экспертами слишком благородным, однако компьютерный анализ некоторых видов матовой сети (положение короля, в котором он не может выбраться из окружения фигур соперника, угрожающих ему постановкой мата) показал, что они позволяют не брать фигуры и не двигать пешки на протяжении многих сотен ходов. После нескольких экспериментов по пересмотру количества ходов Международная шахматная федерация ФИДЕ официально приняла правило пятидесятого хода, поскольку возможность продолжения никогда не возникает в серьезной человеческой игре.

Программы, анализирующие шахматные позиции так же, как и те, что решают математические уравнения, представляют собой традиционные, нисходящие созданные интеллектом программы. Программы, которыми занимается Домингос, отличаются разительно. Он утверждает: «Мы можем думать о машинном обучении как о процессе, обратном программированию, по тому же принципу, что взятие квадратного корня обратно возведению в степень или интеграция обратна дифференциации». Еще одна странная инверсия причинности, или, скорее, очередной этап базовой инверсии Дарвина: умение без понимания. «Центральная гипотеза» книги Домингоса кажется воистину дерзкой: