Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Такого рода обмены могут стимулировать поток информации не только между сущностями примерно равной мощности, но и между сущностями на разных уровнях иерархии — скажем, между узлами уровня планетных систем с хабами галактического уровня или узлами галактического уровня с космическим хабом. Узлы могут стремиться к этому ради удовольствия почувствовать себя частью чего-то большего или чтобы получить ответы на сложные вопросы и технологии, которыми они не смогли бы обеспечить себя самостоятельно, а также для защиты от внешних угроз. Они могут также оценить обещания практического бессмертия посредством резервного копирования: как многие люди находят утешение в убеждении, что их души будут жить после физической смерти их тела, продвинутый искусственный интеллект может верить в будущую жизнь своей души и накопленных знаний в хабе суперкомпьютера после того, как его оригинальный физический «хард» истощит запасы энергии.

И наоборот, хабу может потребоваться, чтобы связанные с ним узлы помогли ему в решении вычислительной задачи, требующей больших ресурсов и вычислительного времени, но не требующей результатов срочно, так что не проблема подождать несколько тысяч или миллионов лет ради получения ответов. Как мы видели выше, хаб может также захотеть, чтобы его узлы помогли ему с проведением таких массивных космических инженерных проектов, как противодействие разрушительной темной энергии путем перемещения значительных галактических масс и концентрации их в меньшей области пространства. Если окажется, что возможно создание проходимых кротовых нор, главным приоритетом для хабов, вероятно, станет построение их сети для нейтрализации темной энергии и полной взаимосвязанности всех частей системы (космической империи). Вопрос о возможных окончательных целях космического сверхразума настолько увлекателен, что мы рассмотрим его отдельно в главе 7.

Управление при помощи кнута

Земные империи обычно принуждали свои провинции к сотрудничеству с помощью кнута и пряника. Хотя подданные Римской империи ценили технологии, инфраструктуру и покровительство, которые они получали в качестве награды за свое сотрудничество, они также боялись неизбежных последствий за проявления непокорности или за неуплату налогов. Из-за того что войска из Рима в отдаленные провинции добирались долго, необходимое возмездие отчасти делегировалось местной власти и ее войскам, уполномоченным осуществлять наказание практически мгновенно. Сверхразумный хаб может использовать аналогичную стратегию и разворачивать сеть верной себе гвардии по всей своей космической империи. Поскольку управление сверхразумными подданными может оказаться нелегким, простейшая жизнеспособная стратегия заключается в том, чтобы использовать AI-гвардию из относительно тупых, но запрограммированных на 100-процентную лояльность машин, находящихся в режиме постоянного мониторинга за соблюдением всех правил при условии их автоматического подрыва при малейшем нарушении.

Предположим, например, что искусственный интеллект хаба формирует белый карлик так, чтобы он расположился у края цивилизации размером с Солнечную систему, от которой он требует подчинения. Белый карлик — это выгоревшие останки умеренно тяжелой звезды. Он состоит в основном из углерода и напоминает гигантский алмаз в небе. Он настолько компактен, что может весить больше, чем Солнце, уступая Земле по размеру. Известный индийский физик Субраманьян Чандрасекхар доказал, что если вы постепенно увеличиваете массу белого карлика, то при достижении определенного предела, известного как предел Чандрасекхара и составляющего около 1,4 массы Солнца, в белом карлике случится термоядерный катаклизм и он превратится в сверхновую типа 1A. Если искусственный интеллект хаба бессердечно формирует белый карлик очень близким к пределу Чандрасекхара, то AI-гвардия может быть эффективной, даже будучи чрезвычайно тупой (а в действительности как раз именно в силу своей тупости): ей достаточно просто быть запрограммированной на проверку поступления от покоренной цивилизации ежемесячной квоты космических биткойнов, математических доказательств или какой-либо иной формы налогов, чтобы в том случае, если это не было сделано, добавить белому карлику немного массы, запустить сверхновую и разнести всю непокорную цивилизацию в пух и перья.

Цивилизацию галактического размера можно контролировать аналогичным образом, если расположить большое количество компактных объектов на низких орбитах вокруг гигантской черной дыры в центре галактики и угрожать превратить эти объекты в газ, например сталкивая их друг с другом. Этот газ начнет падать в черную дыру, превращая ее в мощный квазар, из-за чего бóльшая часть галактики станет необитаемой.