Опасная идея Дарвина: Эволюция и смысл жизни

Две эти фундаментальные стратегии заимствованы у природы: они примерно соответствуют разделению между растениями и животными. Поскольку вторая, более сложная стратегия лучше отвечает нашим целям, предположим, что вы решили построить робота для размещения своей капсулы. Разумеется, следует попробовать сконструировать его так, чтобы он в первую очередь «выбирал» действия, служащие к вашей пользе. Не называйте эти простые точки переключения в системе управления вашего робота точками «выбора», если вам кажется, что это подразумевает, будто робот наделен свободой воли или сознанием, ибо я вовсе не хочу протащить нечто подобное в свой мысленный эксперимент контрабандой. Мой тезис непротиворечив: мощность любой компьютерной программы состоит в ее способности действовать в соответствии с командами разветвления, переходя от решения к решению на основании проводимых проверок доступных ей данных, и я хочу сказать только то, что, разрабатывая систему управления робота, было бы разумно попытаться структурировать ее так, чтобы каждый раз, как перед ней появляется ветка возможностей, она склонна была бы двигаться по пути, с наибольшей вероятностью служащему вашим интересам. В конце концов, вы – raison d’être всего устройства. Идея спроектировать «железо» и программное обеспечение таким образом, чтобы оно было приспособлено для работы в интересах конкретного человеческого существа, уже перестала быть научно-фантастической, хотя конкретные конструкторские проблемы, с которыми столкнутся создатели вашего робота, окажутся весьма сложными инженерными задачами, решение которых сегодня лежит за гранью новейших достижений инженерной мысли. Этот мобильный автомат будет нуждаться в «зрительной» системе, которая направляла бы его передвижения, а также других «сенсорных» системах в дополнение к механизмам самодиагностики, информирующих его о собственных потребностях.

Поскольку вы все время будете в коме, а потому не сможете направлять робота и планировать стратегию его поведения, вам нужно будет сконструировать его суперсистему таким образом, чтобы она генерировала собственные планы в ответ на изменение обстоятельств, с которыми столкнется в течение столетий. Он должен «знать» как «искать», «распознавать», а затем использовать источники энергии, как перемещаться на более безопасные территории, как «предвидеть» опасности и избегать их. Когда впереди столько работы, которую нужно сделать быстро, вам лучше бы сэкономить на всем, на чем только можно: снабдите своего робота не более изощренной способностью выбора, чем ему, вероятно, понадобится, чтобы проводить различия там, где их в нашем мире следует проводить – исходя из его конструкции.

Ваша задача станет гораздо сложнее, если вы не сможете рассчитывать на то, что ваш робот окажется единственным подобным роботом, выполняющим такую миссию. Предположим, что помимо тех людей и животных, которые будут жить в грядущие века, будут и другие роботы – множество разных роботов (и, возможно, также и «растений»), конкурирующих с вашим роботом за энергию и безопасность. (С чего бы вдруг распространилась подобная причуда? Предположим, что у нас есть неопровержимые доказательства того, что в 2401 году на нашу планету прибудут путешественники из иной галактики. Лично я умирал бы от желания встретиться с ними, и возможность залечь в холодильник показалась бы мне соблазнительной, будь это единственный способ такое желание исполнить.) Если вы планируете общение с другими акторами-роботами, действующими в интересах своих клиентов, подобных вам, было бы разумно наделить своего робота достаточно сложной системой управления, чтобы он мог вычислять вероятные преимущества и риски кооперации с другими роботами или формирования взаимовыгодных альянсов. Было бы совершенно непредусмотрительно предположить, что другие клиенты очарованы правилом «живи и жить давай другим», – например, вполне могут существовать недорогие роботы-«паразиты», только того и ждущие, чтобы наброситься на ваш дорогой автомат и его эксплуатировать. Любые вычисления вашего робота относительно этих угроз и возможностей должны быть «дешевы и сердиты»; не существует абсолютно надежного способа отличить друзей от врагов или предателей от тех, кто держит слово, а потому вам придется сделать так, чтобы робот, подобно игроку в шахматы, был способен принимать решения и рисковать в условиях нехватки времени.