Я – странная петля

Давайте еще раз вернемся назад и поговорим о комарах и собаках. Есть ли у них что-то вроде символа «Я»? В Главе 1, когда я говорил о «маленьких душах» и «больших душах», я сказал, что это не черно-белая история, а некий уровень на шкале. Так что мы должны спросить, есть ли странная петля – сложная петля обратной связи с нахлестом уровней – в голове у комара? Есть ли у комара богатая символьная репрезентация самого себя, включающая репрезентацию его желаний и сущностей, которые угрожают его желаниям, и есть ли у него саморепрезентация в сравнении с другими личностями? Может ли комар подумать что-то напоминающее «Я могу улыбаться как Хопалонг Кэссиди!» – например, «Я могу кусать как Жужжалия Жаклин»? Думаю, ответ на эти и подобные вопросы вполне очевиден: «Да ни за что на свете!» (из-за невероятно спартанской библиотеки символов в мозгу комара, которая едва ли больше, чем библиотека символов унитаза или термостата), и соответственно, я с чистой совестью отметаю идею о существовании странной петли самости в таком крошечном и хрупком мозгу, как у комара.

С другой стороны, если речь идет о собаках, неудивительно, что я вижу куда больше смысла задуматься о том, что у них есть хотя бы зачатки такой петли. Мало того что в мозгу собаки располагается довольно много тонких категорий (вроде «почтового грузовика» или «вещей, которые я могу поднять и таскать в зубах по дому, не боясь наказания»), у них еще, похоже, есть зачаточное представление о собственных желаниях и желаниях других, будь то другие собаки или другие люди. Собака часто понимает, что хозяин ею недоволен, и машет хвостом в надежде восстановить хорошие отношения. И все же у собаки, явно лишенной свободно расширяемой библиотеки понятий и потому обладающей только зачатками эпизодической памяти (и конечно, совершенно лишенной постоянного хранилища воображаемых будущих событий, выстроенных вдоль мысленной временной оси, не говоря о гипотетических сценариях, окутывающих прошлое, настоящее и даже будущее), саморепрезентация непременно гораздо проще, чем у взрослого человека, и по этой причине у собаки куда более мелкая душа.

Предполагаемая самость мобильных роботов

Я был крайне впечатлен, когда прочитал про «Стэнли», мобильного робота, разработанного в Стэнфордской лаборатории искусственного интеллекта, который не так давно самостоятельно пересек пустыню Невада, полагаясь лишь на свои лазерные дальномеры, видеокамеру и GPS-навигацию. Я не мог не задаться вопросом: «Как много у Стэнли “Я”?»

В интервью, вышедшем вскоре после триумфального пересечения пустыни, один оптимистичный индустриалист, заведующий научно-исследовательской работой Intel (запомните, что Intel изготовил аппаратное обеспечение бортового компьютера Стэнли), громко заявил: «Deep Blue (шахматный робот IBM, который победил мирового чемпиона Гарри Каспарова в 1997 году) обладал лишь вычислительной мощностью. Он не думал. Стэнли думает».

Что ж, при всем уважении к значимому коллективному достижению, которым является Стэнли, я могу лишь заметить, что эта ремарка есть бесстыдное, чистейшее и наивное надувательство. Я вижу это совершенно иначе. Если и когда Стэнли приобретет способность формировать неограниченно разрастающиеся категории вроде тех, что были в списке в начале этой главы, тогда я буду рад сказать, что Стэнли думает. Однако на данный момент способность пересекать пустыню целым и невредимым кажется мне сравнимой с тем, как муравей может проследовать по напитанной феромонами тропе через пустырь и не погибнуть. Подобную автономность мобильного робота не стоит недооценивать, но это в корне отличается от мышления и в корне отличается от «Я».

В какой-то момент видеокамера Стэнли засекла впереди другого мобильного робота (это был H1, робот-соперник из Университета Карнеги – Меллона), и в итоге Стэнли объехал H1, оставив соперника глотать пыль позади. (Кстати, я старательно избегаю местоимения «он» в этом тексте, хотя в упоминаниях журналистами Стэнли это само собой разумелось, как, возможно, и в лаборатории ИИ, потому как этому средству передвижения дали человеческое имя. К сожалению, такая лингвистическая небрежность служит началом скользкой тропинки, которая скоро приведет нас в абсолютный антропоморфизм.) Это событие, кульминацию всей истории, можно увидеть на видеозаписи, сделанной этой камерой. Понял ли Стэнли в этот критический момент, что другой робот – это существо «вроде него»? Подумал ли он, радостно обгоняя H1: «Не дай бог оказаться в такой ситуации» или, может, «Ага, съел!». Если на то пошло, почему я написал, что Стэнли «радостно обгонял» H1?

Что нужно мобильному роботу, чтобы думать такие мысли и чувствовать такие чувства? Достаточно ли жестко вмонтированной камере Стэнли суметь развернуться, чтобы Стэнли усвоил собственный визуальный образ? Конечно, нет. Это может быть необходимым шагом в долгом процессе обретения «Я», но, как мы знаем на примере кур и тараканов, восприятие частей своего тела еще не порождает самость.