Гёдель, Эшер, Бах. Эта бесконечная гирлянда

Леди Лавлейс не менее, чем Баббадж, отдавала себе отчет в том, что, пытаясь создать аналитические машины, человечество флиртовало с искусственным разумом — в особенности, если эти машины способны «укусить себя за хвост» (так Баббадж описывал Странную Петлю, получавшуюся, когда его машина «залезала внутрь себя» и меняла заложенную в нее программу). В 1842 году она написала в своих мемуарах,[5] что аналитическая машина «может воздействовать не только на цифры, но и на другие вещи». В то время, как Баббадж мечтал о создании шахматного или «крестико-ноликового» автомата, леди Лавлейс предположила, что если записать на цилиндры машины тона и гармонии, то она могла бы «создавать искусно сделанные научные музыкальные композиции любой сложности и длины». Впрочем, там же она объясняет: «Аналитическая машина не претендует на создание чего-то нового, она может делать только то, что мы умеем ей приказать». Верно поняв, какая мощь заложена в механических вычислениях, она, тем не менее, оставалась скептически настроенной по отношению к механическому разуму. Однако могла ли она, со всей своей проницательностью, предположить, какие возможности откроются, когда человечество подчинит себе электричество?

В нашем веке пришло время для компьютеров, превзошедших самые смелые мечты Паскаля, Лейбница, Баббаджа или леди Лавлейс. В 1930-х и 1940-х годах были разработаны и построены первые «блестящие электронные головы». Это послужило катализатором к соединению трех ранее совершенно различных областей науки, теории аксиоматических рассуждений, изучения механических вычислений и исследований по психологии человеческого разума. В те же годы гигантскими скачками двигалась вперед теория компьютеров. Эта теория была тесно связана с математикой. Фактически, теорема Гёделя имеет параллель в теории вычислений: Алан Тюринг открыл существование неизбежных «дыр» в возможностях даже самого могучего компьютера. Словно в насмешку, как раз когда делались эти довольно мрачные прогнозы, строились новые компьютеры, чьи возможности росли на глазах, далеко превосходя самые смелые предсказания их создателей. Баббадж, сказавший однажды, что он с радостью отдал бы остаток жизни за возможность вернуться на три дня лет через пятьсот, чтобы получить возможность ознакомиться с наукой будущего, возможно, потерял бы дар речи от удивления уже через сто лет после своей смерти, пораженный как новыми машинами, так и их неожиданными ограничениями.

В начале 1950-х годов казалось, что до механического разума — рукой подать: однако за каждой преодоленной вершиной вставала новая, препятствуя созданию по-настоящему думающей машины. Возможно ли, что это упорное отдаление цели имело глубинные причины?

Никто не знает, где пролегает граница между разумным и не-разумным поведением; в самом деле, возможно, что само предположение о существовании четкой границы звучит глупо. Однако мы с уверенностью можем перечислить основные критерии разума:

гибко реагировать на различные ситуации;

извлекать преимущество из благоприятного стечения обстоятельств;

толковать двусмысленные или противоречивые сообщения;

оценивать различные элементы данной ситуации по степени их важности;

находить сходство между ситуациями, несмотря на возможные различия;

находить разницу между ситуациями, несмотря на возможное сходство;

создавать новые понятия, по-новому соединяя старые;

выдвигать новые идеи.

Здесь мы сталкиваемся с кажущимся парадоксом. Компьютеры, по определению, являются самыми негибкими, безвольными и послушными приказам существами. Несмотря на свою быстроту, они, тем не менее, сама бессознательность. Как же, в таком случае, можно запрограммировать разумное поведение? Не является ли уже само это предположение кричащим противоречием? Одна из основных идей этой книги — показать, что это вовсе не противоречие. Одна из основных целей этой книги — побудить каждого читателя встретиться с кажущимся парадоксом во всеоружии, попробовать его на вкус, вывернуть его наизнанку, разобрать его на части, пошлепать в нем, как ребенок в луже, чтобы в результате читатель смог взглянуть по-новому на кажущуюся неприступной пропасть между формальным и неформальным, одушевленным и неодушевленным, гибким и негибким

Это и составляет предмет исследований науки об искусственном интеллекте (ИИ). Работа специалистов по ИИ кажется странной и удивительной именно потому, что они разрабатывают строго формальные правила, говорящие негибким машинам, как стать гибкими