Я – странная петля

Гипотетический Стэнли

То, чего не хватает Стэнли для обретения «Я» и что, похоже, не являлось частью исследовательской программы разработчиков подвижных роботов, – это глубокое понимание его места в этом мире. Под этим я, разумеется, не подразумеваю расположение робота на поверхности земли, которое с точностью до сантиметра обеспечивается GPS; я подразумеваю богатую репрезентацию собственных действий робота и его отношений с другими роботами, богатую репрезентацию его целей и «надежд». Для этого роботу потребовалась бы полная эпизодическая память о тысячах его переживаний, а также эпизодический проектор (того, что он ожидал бы в своей «жизни», того, на что он надеется и чего боится), а также эпизодический сослагатель, снабжающий его мысли подробностями о его промахах и о том, что бы случилось, обернись все немного иначе.

Итак, Стэнли, роботизированный паровик[24], должен был бы быть способен строить предположения о собственном будущем вроде: «Ох, интересно, вывернет ли H1 специально прямо передо мной, чтобы помешать мне его обойти, или, может, спихнет меня с дороги вон в ту яму? Я бы так сделал на месте H1!» Затем, несколько мгновений спустя, он бы должен был мысленно развить свою гипотезу: «Уф! Я так рад, что H1 не настолько умный, как я боялся, – или, может, H1 просто не такой амбициозный, как я!»

В статье журнала Wired была описана легкая паника в стэнфордской команде разработчиков – когда до соревнования в пустыне оставалось тревожно мало времени, они поняли, что кое-чего еще очень не хватает. В статье буднично говорилось: «Им нужен был алгоритмический эквивалент самосознания», а затем в ней говорилось, что вскоре они действительно достигли этой цели (это заняло у них целых три месяца работы!). Еще раз: когда со всеми расшаркиваниями в сторону важного достижения команды было покончено, нужно было еще осознать, что внутри Стэнли не происходило ничего такого, что заслуживало бы очень нагруженного, очень антропоморфного ярлыка «самосознание».

Петля обратной связи в вычислительной аппаратуре Стэнли достаточно хороша для того, чтобы провести его по длинной пыльной дороге, изъеденной рытвинами и усыпанной неряшливыми цереусами и перекатиполем. Я отдаю ему честь! Но если обратить внимание не только на передвижение, но также на мышление и сознание, то петля обратной связи у Стэнли недостаточно странная – и даже рядом с ней не лежит. Человечеству предстоит пройти еще долгий путь, прежде чем оно коллективно напишет искусственное «Я».

Глава 14. Странность в глазах «Я» смотрящего

Пассивные губки в наших головах

Возможно, вы недоумеваете, почему я называю выработанную с годами петлю саморепрезентации человеческого существа, как описано в предыдущей главе, странной петлей? Вы принимаете решения, действуете, влияете на мир, получаете обратную связь, встраиваете ее в себя, затем обновленные «вы» принимаете новые решения и так далее, снова и снова. Это, без сомнения, петля – но где же то парадоксальное качество, которое я называл необходимым условием для странной петельности? Почему это не обычная петля обратной связи? Что общего у этой петли с фундаментальной странной петлей, которая, как обнаружил Курт Гёдель, неожиданно проскользнула внутрь «Принципов математики»?

Прежде всего, мозг априори может показаться таким же не подходящим на роль почвы для самореференции и ее богатых и контринтуитивных последствий, как и крайне грозный труд «Принципы математики», из которого самореференция была строго исключена. Человеческий мозг – это просто большая губчатая луковица из неодушевленных молекул, плотно застрявшая в твердом как скала черепе, в котором она просто сидит, пассивная как булыжник или бревно. Почему самореференция и самость должны скрываться именно в такой странной среде, почему не в гранитной глыбе? Где в мозгу «Я»?

Как в каменной крепости «Принципов математики» должно происходить что-то очень странное, чтобы туда просочилось противозаконное «Я» гёделевских фраз вроде «Я недоказуема», так и в костяном черепе, набитом неодушевленными молекулами, должно происходить что-то очень странное, чтобы в нем зародилась душа, «горящий огонек», уникальная человеческая личность и «Я». И держите в уме, что «Я» не возникает как по волшебству во всех мозгах, внутри всех черепов за счет «правильного вещества» (то есть определенного «особого» типа молекул); это происходит, только если в этой среде возникают надлежащие паттерны. Без таких паттернов система именно такова, какой выглядит на первый взгляд: просто губчатый комок, бездушный, без «Я», лишенный какого бы то ни было внутреннего света.

Химические брызги