Опасная идея Дарвина: Эволюция и смысл жизни

Результатом такого конструкторского проекта будет робот, способный демонстрировать высокий уровень самоконтроля. Поскольку, погрузившись в сон, вам придется отказаться от непосредственного контроля в режиме реального времени, вы окажетесь в ситуации «дистанционного управления», словно те инженеры в Хьюстоне, которые наделили космический корабль «Викинг» автономностью (см. двенадцатую главу). Как автономный актор, робот сможет выводить свои собственные дочерние цели из собственных оценок текущей ситуации и значимости этой ситуации для конечной цели (то есть сохранения вашей жизни до 2401 года). Эти вторичные цели, поставленные в ответ на ситуации, которые в данный момент вы не можете в точности предсказать (если бы вы могли, то зашили бы наилучшие ответы в «железо»), могут увести робота далеко в сторону, заняв его выполнением проектов, на реализацию которых потребуются века, и некоторые из которых вполне могут, несмотря на все ваши усилия, оказаться опрометчивыми. Возможно, поддавшись убеждениям другого робота подчинить свою собственную жизненную миссию какой-либо другой, ваш робот может предпринять действия, противоречащие вашим целям и даже самоубийственные.

Этот придуманный нами робот будет с головой погружен в свой собственный мир и свои проекты, но им всегда в конечном счете будет руководить то, что останется от целевых состояний, заложенных вами в момент, когда вы легли в капсулу. Все его будущие предпочтения – производные тех, которыми вы его наделили изначально в надежде, что это позволит вам попасть в XXV век, но это вовсе не обязательно означает, что действия, предпринятые в свете будущих предпочтений робота, будут и дальше напрямую отвечать вашим интересам. Вы надеетесь на это, исходя из своих эгоистических интересов, но не сможете непосредственно контролировать робота, пока не проснетесь. У него будет некий внутренний образ того, что в данный момент является приоритетной целью, его summum bonum, но если он поддастся на уговоры товарищей, которых мы вообразили, то железная хватка сконструировавшего его инженерного искусства будет поставлена под угрозу. Робот все еще будет артефактом, он все еще будет действовать так, как диктует ему его конструкция, но в соответствии с набором частично выработанных им самим desiderata.

Тем не менее, согласно допущению, которое мы решили исследовать, робот не будет проявлять никакой иной интенциональности, кроме производной, поскольку является всего лишь артефактом, созданным, чтобы служить вашим интересам. Мы можем назвать такую позицию «клиентоориентированной» с точки зрения робота: я – источник всех производных смыслов, которыми располагает мой робот, как бы далеко они ни отклонились от изначального состояния. Это – всего лишь механизм жизнеобеспечения, созданный, чтобы я целым и здоровым попал в будущее. То, что теперь он напряженно работает над проектами, лишь отдаленно связанными с моими интересами и даже противоположными им, согласно нашему допущению, не наделяет подлинной интенциональностью его состояния управления, «ощущения» или «восприятия». Если вы все еще хотите настаивать на клиентоориентированности, то вам следует быть готовыми сделать следующий вывод: вы сами никогда не имели никаких состояний с изначальной интенциональностью, поскольку вы – лишь механизм жизнеобеспечения, изначально спроектированный для того, чтобы сохранять ваши гены до момента воспроизводства. В конце концов, наша интенциональность является производной интенциональности наших эгоистичных генов. Это они – неумышленно мыслящие, а не мы!

Если вам такой подход не нравится, рассмотрите другую возможность. Давайте согласимся, что достаточно сложный артефакт (нечто, похожее на этих воображаемых роботов) – может проявлять подлинную интенциональность, если принять в расчет богатый набор встроенных в него функций и способность к самозащите и самоконтролю751. Как и вы, он обязан своим существованием проекту, целью которого было создать механизм жизнеобеспечения, но, как и вы, он получил определенную автономию и стал локусом самоконтроля и самоопределения не в результате какого-то чуда, но всего лишь сталкиваясь в ходе своей «жизни» с проблемами – проблемами выживания, которые ставил перед ним мир, – и так или иначе их решая. Более простые механизмы жизнеобеспечения (например, растения) никогда не достигают высот самоопределения, доступных вашему роботу благодаря его сложности; если рассматривать их только как механизмы жизнеобеспечения их находящихся в коме обитателей, то все закономерности их поведения найдут объяснение.