На краю пропасти. Экзистенциальный риск и будущее человечества

Командование принял старший офицер, капитан Уильям Бассетт. Его смутило, что приказ на пуск был отдан на втором уровне боеготовности (DEFCON 2), поскольку такое невозможно. Его подчиненные предположили, что приказ перейти на DEFCON 1 не дошел к ним из-за помех, а офицер, управляющий пуском на другой точке, допустил, что началась упреждающая атака СССР и времени перейти на DEFCON 1 не осталось.

Но группа Бассетта быстро рассчитала, что превентивный удар уже достиг бы цели. Бассетт приказал проверить готовность снарядов к пуску и обратил внимание, что три их цели находились не в России, а это казалось маловероятным в разгар кризиса. Он связался по радио с центром управления пуском ракет, чтобы подтвердить зашифрованный приказ, но в ответ ему прислали тот же шифр.

Бассетта по-прежнему одолевали сомнения, но лейтенант, управлявший пуском на другой точке, где среди целей были только объекты, расположенные в СССР, заявил, что Бассетт не имеет права препятствовать пуску, учитывая, что приказ был повторен. Этот офицер приказал запустить ракеты из своего центра.

В ответ Бассетт приказал двум рядовым из соседнего пускового центра добежать по подземному тоннелю до того центра, где ракеты готовились к пуску, и застрелить лейтенанта, если тот решит все же исполнить полученный приказ, не дожидаясь ни одобрения Бассетта, ни перехода на DEFCON 1.

Технику Джону Бордну (который и рассказал эту историю) показалось странным, что приказ к пуску был дан по окончании плановой погодной сводки и повторен совершенно спокойно. Согласившись с ним, Бассетт позвонил в центр управления пуском ракет и попросил человека, передавшего приказ, либо отдать приказ о переходе на DEFCON 1, либо дать отбой. Быстро дали отбой, и опасность миновала.

Эта история была обнародована в 2015 году в статье в “Бюллетене ученых-атомщиков”, а также в речи Бордна в ООН. Она ставится под сомнение людьми, которые, по собственному утверждению, в то время находились на окинавских ракетных базах^[659]. Существуют некоторые косвенные доказательства правдивости рассказа: воспоминания Бордна одобрили к публикации ВВС США; майор, отдавший ложный приказ о пуске, впоследствии предстал перед военным трибуналом; а сам Бордн приложил немало сил, чтобы разыскать людей, которые присутствовали на базе во время инцидента и могли бы подтвердить его слова.

Я не знаю, кто прав, но стоит изучить этот случай подробнее. В Архив национальной безопасности уже подали запрос по закону о свободном доступе к информации, но ответ на него может занять много лет. На мой взгляд, это предполагаемое происшествие стоит воспринимать всерьез, но, пока не появится подтверждения, не следует включать его в размышления об опасных ситуациях.

Приложение D

Неожиданные эффекты сочетания рисков

Мы увидели целый ряд неочевидных эффектов, которые возникают, когда мы объединяем отдельные экзистенциальные риски, чтобы оценить общий экзистенциальный риск. Эти эффекты становятся тем сильнее и тем причудливее, чем выше общий риск. Поскольку общий риск – это совокупный экзистенциальный риск для всего нашего будущего, он вполне может быть достаточно высок для возникновения значимых эффектов.

Во-первых, общий риск все меньше представляет собой простую сумму рисков. Не вдаваясь в арифметические тонкости, допустим, что мы сталкиваемся с четырьмя 50 %-ными рисками. Поскольку общий риск не может превышать 100 %, логика подсказывает, что риски должны в значительной мере накладываться друг на друга и при сочетании давать меньший процент, чем их сумма. Например, если бы они были независимыми, общий риск составил бы не 200 %, а 93,75 % (= 15/16).

Во-вторых, при устранении все большего числа рисков может существенно возрастать предельная отдача. Например, если мы устраним один из четырех независимых 50 %-ных рисков, общий риск снизится всего до 87,5 %. Но при устранении каждого следующего риска общий риск будет снижаться все быстрее: до 75 %, затем до 50 %, затем до 0 % – абсолютный эффект с каждым разом будет все сильнее. Можно смотреть на это и иначе: при устранении каждого из рисков наши шансы на выживание удваиваются, и абсолютный эффект от этого становится тем сильнее, тем выше наши шансы на выживание. Аналогичным образом, если работать над всеми четырьмя рисками параллельно и снизить каждый риск наполовину (с 50 до 25 %), общий риск снизится всего с 93,75 примерно до 68 %. Но если снизить их наполовину еще раз, в абсолютном выражении общий риск снизится сильнее, примерно до 41 %. Эти примеры показывают, что риски так сильно накладываются друг на друга, что катастрофа приобретает предопределенный характер, причем общий риск остается высоким, когда мы пытаемся его предотвратить. Но наша работа также помогает сократить наложение, благодаря чему дальнейшие действия становятся более полезными.