В фантастике большинство историй о самовоспроизводящихся машинах представляют собой мрачные антиутопии; благие намерения создать искусственную жизнь оканчиваются тем, что экспоненциально растущие полчища «ботов» заполоняют Вселенную, используя все звезды и планеты для производства все новых и новых копий самих себя. Даже примитивная бактерия может устроить конец света, если будет неограниченно размножаться по экспоненте. Кишечная палочка
Естественно, в реальности этого не происходит. Научная фантастика подчас бывает ужасно пессимистичной, но для этого пессимизма нет оснований. В игру вступают и другие факторы, в том числе ограниченность ресурсов. Ведь в конце концов даже у крабов на острове из рассказа А. Днепрова кончились материалы для изготовления новых роботов. Ко всему прочему, когда вокруг много вкусных бактерий, другие существа в ходе эволюции непременно обучаются их есть, и устанавливается равновесие. Так что нам не стоит беспокоиться — Вселенная не утонет в бактериальной слизи.
Надо признать, человечество причинило колоссальный вред своей планете, но до уничтожения Вселенной нам далеко. Более того, в звездном небе не наблюдается никаких признаков того, что какой-либо организм, природный или искусственный, распространил свое влияние в масштабах, ожидаемых при экспоненциальном росте численности бактерий или крабов-роботов.
Но и оптимизм также следует проявлять с осторожностью. В том, что касается контроля над численностью бактерий или крабов-роботов, мы полагаемся на вековые процессы естественного отбора, надеясь на то, что непременно возникнет хищник, который начнет их есть. Но что, если это будут не бактерии, а разумные организмы, изобретающие способы поиска новых ресурсов, открывающие новые пути усовершенствовать себя, свою эволюционную приспособленность и свою способность учиться друг у друга и у предыдущих поколений? Возможно ли появление подобной армии самовоспроизводящихся искусственных интеллектов? Если да, то можно ли ее остановить? Насколько правдоподобно допущение, что другие планеты могут населять искусственно созданные существа, столь высокоразвитые, что они сумели обойти даже законы естественного отбора? А если это возможно, почему такое существо не возникло в ходе естественной эволюции? Если мы хотим знать, стоит ли нам опасаться инопланетного искусственного интеллекта, сначала следует установить, в чем заключается его особенность.
Жан-Батист Ламарк и шея жирафа
Одна из причин, по которым на Земле эволюция протекает столь медленно, состоит в том, что детям по наследству не передается полезный опыт родителей. Детеныши газели инстинктивно знают, как убегать ото льва, но инстинкт спасаться бегством развивался крайне медленно, в течение многих поколений: детенышей, у которых он отсутствовал, попросту съедали львы. Представьте себе, насколько быстрее пошла бы эволюция, если бы первая газель, сумевшая спастись ото льва, родила детенышей, которые бы поголовно боялись львов. Но так обычно не бывает. Недавние исследования выявили возможные механизмы влияния экстремального опыта (вроде недоедания или болезни) на будущие поколения, но они вряд ли могут быть ведущим фактором естественного отбора или эволюции[106]
. Почему это так?Еще до того, как ученые начали понимать природу и механизмы наследственности, предположение, что жизненный опыт животного передается его потомству, выглядело по меньшей мере разумным. Эту идею принято связывать с именем французского биолога эпохи Просвещения Жана-Батиста Ламарка (1744–1829), который за столетие до Дарвина пытался объяснить тот факт, что животные кажутся удивительно хорошо приспособленными к своей среде. Как это могло получиться? Ламарк выдвигал много соображений по этому поводу, но прославился главным образом благодаря своему двухкомпонентному закону наследственности. Согласно этому закону, животные, во-первых, развивают признаки, которыми они постоянно пользуются, и утрачивают неиспользуемые признаки: кроты ослепли, потому что не пользовались зрением под землей, а жирафы — знаменитый пример — отрастили длинные шеи, потому что тянулись вверх за высоко растущими листьями. Во-вторых, что важнее всего, Ламарк предположил, что животные могут передавать эти приобретенные признаки потомству: если собака-мать увидит змею и испугается, ее щенки тоже будут бояться змей.