Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Среднее похолодание (в градусах по шкале Цельсия) во время первых двух летних периодов после полномасштабного ядерного конфликта между США и Россией. Воспроизводится с разрешения Алена Робока^{77}.

Я настолько подробно вошел в детали возможной ядерной войны, чтобы ясно показать: никакой разумный мировой лидер этого не хочет, но это все-таки может произойти случайно. Это означает, что мы не можем быть уверены в том, что человеческие собратья никогда не пойдут на омницид: того, что этого никто не хочет, еще недостаточно.

Машина Судного дня

Итак, могут ли люди и в самом деле провернуть омницид? Большинство ученых сходится в том, что даже если в глобальной ядерной войне будут уничтожены 90 % людей, в ней не будут уничтожены все 100 %, и полного вымирания за этим еще не последует. С другой стороны, истории, связанные с ядерной зимой, электромагнитными импульсами и радиационным заражением, показывают, что самыми большими опасностями могут оказаться как раз те, о которых мы пока еще не подумали. Очень трудно предугадать все возможные последствия, сочетающие ядерную зиму, разрушение инфраструктуры, выросший уровень мутаций и вооруженные банды отчаявшихся людей на фоне других возникших проблем — таких, как пандемии, разрушенная экосистема и еще что-то такое, о чем мы пока не догадываемся. По моей собственной оценке, хотя вероятность ядерной войны, которая бы уже завтра запустила механизм неизбежного вымирания человечества, невысока, мы все же не можем с полной уверенностью считать ее равной нулю.

Шансы омницида сильно возрастают, если мы преобразуем существующее ныне ядерное оружие в машину Судного дня. Идею предложил стратег Корпорации RAND Герман Кан в 1960 году, а Стэнли Кубрик популяризировал ее в фильме Dr. Strangelove, после чего машина Судного дня превратилась в парадигму гарантированного взаимного уничтожения. Получается идеальный сдерживающий фактор: машина, которая автоматически возвращает удар любого противника, уничтожая все человечество.

Один из возможных вариантов машины Судного дня — это просторное подземное хранилище, где сложены, как их иногда называют, «соленые ньюки» — по возможности крупные водородные бомбы, обложенные большим количеством кобальта. Физик Лео Сцилард еще в 1950 году утверждал, что такое способно убить все на Земле: взрывы бомб сделают кобальт радиоактивным и выбросят его в стратосферу. Пятилетний период его полураспада достаточно велик, чтобы он распределился над всей поверхностью Земли (в особенности если две одинаковые машины будут расположены симметрично в противоположных полусферах), и достаточно короток, чтобы интенсивность радиации была смертельной. В СМИ сообщается, что сейчас кобальтовые бомбы впервые стали изготавливаться. Омницидальные достоинства могут быть усилены добавлением бомб, оптимизированных под ядерную зиму: они должны распылить в стратосфере долгоживущие аэрозоли. Ключевой момент в истории с машиной Судного дня — в ее относительной дешевизне при сравнении с обычным ядерным сдерживанием: поскольку эти бомбы не надо никуда доставлять, не нужны дорогостоящие ракетные системы, да и сами бомбы можно сделать попроще, коль скоро они не должны быть ни легкими, ни компактными для установки на ракетах.

Еще одну возможность для создания машины Судного дня дает биологическое оружие: в ней будут содержаться специально выращенные бактерии или вирусы, уничтожающие всех людей. Если их трансмиссивность будет достаточно высока, а инкубационный период достаточно продолжителен, то почти все успеют подхватить заразу, прежде чем о ее существовании станет известно и можно будет принять контрмеры. Есть веский военный довод в пользу создания такого биологического оружия, даже если оно не уничтожит всех: наиболее эффективная машина Судного дня должна сочетать в себе различные поражающие факторы — и ядерный, и биологический, и, по возможности, какой-нибудь еще, чтобы увеличивать сдерживающую врага силу.

AI-оружие

Третий технологический путь к омнициду может сопровождаться созданием в некотором роде необычного оружия с использованием искусственного интеллекта. Предположим, некая сверхдержава создает миллиарды тех самых атакующих дронов размером со шмеля, которые мы описывали в главе 3, и решает с их помощью уничтожить всех людей, кроме своих граждан и союзников, которые удаленно идентифицируются с помощью радиочастотных id-тэгов, какими сейчас помечаются товары в большинстве супермаркетов. Эти тэги распространяют среди граждан, чтобы те носили их либо как браслеты, либо как подкожные импланты, упоминавшиеся в связи с тоталитарными методами. Вражеская сверхдержава, наверное, тоже решит создать нечто подобное. Когда случайно разразится война, все люди будут убиты, даже члены самых далеких племен, не имеющие никакого отношения к конфликту, потому что никто не станет носить тэги обоих видов. Сочетание этого способа с биологической и ядерной машинами Судного дня благоприятствует дальнейшему увеличению шансов успешного омницида.

А что хотите вы?