На краю пропасти. Экзистенциальный риск и будущее человечества

Мы можем противостоять риску на любом из этих этапов: предупреждение может не допустить его происхождения, реакция – ограничить его разрастание, а устойчивость – помешать наступлению исхода. В зависимости от риска мы можем или направлять свои усилия на самый эффективный для борьбы с ним этап, или придерживаться стратегии глубокой обороны и работать со всеми этапами одновременно.

Такая классификация позволяет нам представить вероятность вымирания как произведение (1) вероятности того, что вымирание начнется, (2) вероятности того, что, начавшись, оно разрастется до глобальных масштабов, и (3) вероятности того, что, разросшись до глобальных масштабов, оно вызовет вымирание:

P_{вымирания} = P_{происхождения} × P_{разрастания} × P_{исхода.}

Предупреждение, реакция и устойчивость помогают снизить каждый из факторов риска в соответствии со своей направленностью. Поскольку вероятности перемножаются, некоторому снижению одного фактора сопутствует пропорциональное снижение всех остальных факторов. Таким образом, по общему правилу приоритетным должен становиться тот фактор, который легче всего уменьшить наполовину в текущий момент^[473].

Существуют и другие полезные способы классификации рисков. Так, Шахар Авин и его коллеги из кембриджского Центра изучения экзистенциального риска (CSER) классифицируют риски по тому, какой из важнейших систем они угрожают, будь то система окружающей среды, человеческого организма или социума^[474].

* * *

Объединение и сравнение рисков

Рисковый ландшафт образован множеством разных экзистенциальных рисков. Пока мы в основном рассматривали каждый из них по отдельности. Однако, если мы хотим понять, как риски объединяются и соотносятся друг с другом, нам нужно изучить принципы их взаимодействия. Важным образом взаимодействуют даже статистически независимые друг от друга риски: стоит одному риску уничтожить нас, как другие лишаются этой возможности.

Для начала разберемся, что такое общий экзистенциальный риск. Это риск того, что человечество рано или поздно столкнется с экзистенциальной катастрофой любого типа^[475]. Он учитывает все риски: природные и антропогенные, известные и неизвестные, близкие и далекие. Все пути к тому, чтобы катастрофа навсегда уничтожила потенциал человечества.

Это чрезвычайно полезное понятие, поскольку в его рамках все риски приводятся к общему знаменателю, которым становится их вклад в общий риск. Но для этого приходится вводить упрощающее предположение о том, что ставки по разным рискам примерно одинаковы, а различия между рисками определяются главным образом различиями в их вероятностях. Это не всегда так, но это служит хорошей отправной точкой^[476].

Как отдельные риски объединяются в общий риск? Допустим, во всем нашем будущем лишь два риска с вероятностями 10 % и 20 %. Каков при этом общий риск? Возникает желание просто сложить вероятности, но обычно это дает неверный результат. Ответ зависит от взаимосвязи этих рисков (см. Рис. 6.1).

Рисунок 6.1. Риски могут сочетаться множеством способов, от идеальной антикорреляции (А) до идеальной корреляции (Б). Промежуточное положение занимает важный случай взаимозависимости (В). Общий риск зависит от того, сколько риска “теряется” при наложении их друг на друга – в той области, где катастрофа все равно случится, даже если мы уничтожим один из рисков. Большое наложение снижает общий риск, но также ограничивает преимущества уничтожения одного из рисков.