На краю пропасти. Экзистенциальный риск и будущее человечества

Эта проблема затрагивает все риски с низкой вероятностью, но решать ее нужно лишь в тех случаях, когда ставки достаточно высоки и потому есть основания для дополнительного анализа.

533

Это связано с тем, что в случае с маловероятными рисками с высокими ставками истинная вероятность скорее окажется выше, а не ниже оценки. Например, если вероятность оценивается в один на миллион и шансы того, что истинная вероятность окажется в десять раз выше или в десять раз ниже, равны, то первое сильнее влияет на ожидаемую истинную вероятность, повышая ее. Иными словами, если вы еще не сделали поправку на этот эффект, ваша точечная оценка базовой вероятности часто оказывается ниже ожидаемой, но при принятии решений важна именно ожидаемая оценка.

534

Для начала можно, например, создать орган по образцу МГЭИК и поручить ему оценку экзистенциального риска в целом. Этот новый международный консультационный совет под эгидой ООН будет собирать данные о том, каков сложившийся научный консенсус по вопросу об экзистенциальном риске, и объяснять его.

535

Beck (2009), p. 57.

536

Герберт Уэллс почти всю жизнь активно призывал к созданию мирового правительства (Wells, 1940, pp. 17–18; перевод А. Биргера): “Именно система националистического индивидуализма и некоординированного предпринимательства является мировой болезнью, и именно вся система должна уйти. […] Поэтому первое, что нужно сделать при осмыслении основных проблем мира во всем мире, – это осознать, что мы живем в конце определенного периода Истории, периода суверенных государств. Как мы говорили в восьмидесятые годы со все возрастающей правдивостью: “Мы находимся в переходном возрасте”. Теперь мы получаем некоторую меру остроты перехода. Это фаза человеческой жизни, которая может привести, как я пытаюсь показать, либо к НОВОМУ ОБРАЗУ ЖИЗНИ для нашего вида, либо к более длительному или короткому периоду насилия, страданий, разрушения, смерти и вымирания человечества.”.

Бертран Рассел (1951) писал: “До конца текущего столетия, если не случится ничего непредвиденного, реализуется одна из трех возможностей. Они таковы:

1. Уничтожение человеческой жизни, а возможно, всей жизни на планете.

2. Возврат к варварству после катастрофического сокращения численности населения Земли.

3. Объединение мира под властью одного правительства, обладающего монополией на все основные средства ведения войны”.

В наши дни Ник Бустрём призывает к формированию того, что он называет “синглтоном” (2006). Это может быть особый тип мирового правительства, но это необязательно. Насколько я понимаю его мысль, человечество становится синглтоном, если оказывается в ситуации, в которой ведет себя практически как единый агент. В таком случае человечество избегает исходов, не оптимальных, по Парето, в интуитивном представлении людей по всему миру (например, конфликтов с отрицательной суммой, таких как война). Но наличие единого политического центра, осуществляющего управление, при этом не требуется.

537

Einstein (1948), p. 37. Эйнштейном двигало стремление устранить риск вымирания, но в его представлении механизм этого риска немного отличался от того, который особенно волнует меня. Если я указал на проблему появления злоумышленников и несоблюдения мораториев в отдельных странах, то Эйнштейна главным образом заботила необходимость сделать так, чтобы страны лишились возможности вести войну друг с другом, как только методы ведения войн станут грозить человечеству вымиранием.

538

Народное название не слишком точно, поскольку это не телефон и не красный. Не стоит полагать, будто он стоит у президента на столе. В реальности это защищенная линия телетайпной связи (сначала связь осуществлялась по факсу, теперь – по электронной почте), которая находится в Пентагоне.

539

Это прекрасно описал в своих воспоминаниях советский посол Анатолий Добрынин (1995, p. 100): “Сейчас даже трудно поверить, до чего примитивна была связь с Москвой в грозные дни кубинского кризиса, когда счет шел не на дни, а на часы. Я, например, писал срочную телеграмму о разговоре с Р. Кеннеди. Она тут же шифровалась (сперва это делалось вручную, а не шифромашинами). Затем по телефону мы просили телеграфное агентство «Вестерн Юнион» срочно прислать нам своего посыльного, чтобы забрать телеграмму. Мы, конечно, очень надеялись, что он сразу же отвезет телеграмму в агентство для срочной отправки в Москву. Но ведь он мог и остановиться где то по дороге, встретив, например, знакомую девушку!”

540

Можно рассмотреть это с точки зрения современной военной концепции цикла НОРД (времени, необходимого на наблюдение, ориентацию, решение и действие). Поскольку цикл НОРД в дипломатии был слишком медленным, эффективно управлять событиями на месте не получалось.