На краю пропасти. Экзистенциальный риск и будущее человечества

Внеземной риск, который стоит на первом плане в популярной культуре, связан с конфликтом с инопланетной цивилизацией, способной путешествовать по космосу. Хотя очень сложно однозначно исключить такую возможность, широко признается, что такой сценарий крайне маловероятен (но становится более правдоподобным в исключительно долгосрочной перспективе)^[456]. В популярной культуре главный риск сопряжен с прибытием инопланетян на Землю, но это, пожалуй, наименее вероятно и совсем не поддается нашему контролю. Однако, возможно, нам следует провести открытую дискуссию, прежде чем приступать к реализации активной части проекта SETI (отправке мощных сигналов для привлечения внимания далеких внеземных цивилизаций). Опасность может представлять даже пассивная часть проекта (прослушивание их сообщений), ведь сообщения вполне могут оказаться ловушкой^[457]. Эти опасности невелики, но пока плохо изучены и плохо контролируемы.

Другой антропогенный риск сопряжен с самыми радикальными из наших научных экспериментов – теми, в которых создаются поистине беспрецедентные условия^[458]. Так, при первом ядерном взрыве температура дошла до отметки, которой никогда прежде на Земле не наблюдалось, и появилась теоретическая возможность воспламенения атмосферы. Поскольку эти условия были беспрецедентными, мы не могли утешаться тем, что такое случалось уже много раз и не приводило к катастрофе. (Можно сказать, что часть рисков, о которых мы упоминали ранее, например обратное загрязнение, исследования с повышением вирулентности и ОИИ, также сопряжена с научными экспериментами, создающими беспрецедентные условия.)

В некоторых случаях ученые уверенно заявляют, что эксперимент не может вызвать катастрофу или вымирание. Но в прошлом даже то, что наука воспринимала как данность, порой оказывалось неверным: например, что объекты имеют определенное положение, что пространство подчиняется Евклидовой геометрии и что атомы невозможно делить, создавать и уничтожать. Если на ученых надавить, они признаются, что на самом деле имеют в виду, что такое не может произойти, если не будут существенным образом изменены наши научные теории. В обычных обстоятельствах такой уверенности достаточно, ведь при стремлении к точности уверенность в 99,9 % нас вполне удовлетворяет. Но этот стандарт не учитывает, что стоит на кону. В нашем случае ставки исключительно высоки, поэтому нам нужен стандарт, который будет принимать это в расчет^[459].

Как правило, ожидаемые выигрыши сравнивают с ожидаемыми потерями. Но применить этот метод непросто, поскольку очень низкую (и плохо поддающуюся количественной оценке) вероятность колоссальной катастрофы необходимо сопоставлять с ощутимыми преимуществами, которые эксперименты уже принесли и, вероятно, принесут снова. Кроме того, знания или технологии, получаемые в результате экспериментов, могут помочь снизить будущий экзистенциальный риск или оказаться необходимыми для реализации нашего потенциала.

Для любого эксперимента, создающего беспрецедентные условия, вероятность катастрофы, как правило, очень мала. Но могут быть и исключения, и совокупная вероятность может нарастать. В основном такие риски контролируются плохо^[460].

Риски, сопряженные с технологиями будущего, по природе своей более умозрительны, чем риски, возникающие из-за природных опасностей и наиболее мощных технологий настоящего. Это особенно очевидно, когда мы переходим от того, что становится реальностью в современной биотехнологии, к тому, что ждет нас в лучшем случае через несколько десятков лет. Но чтобы осознать, насколько серьезные риски ждут нас в будущем, необязательно считать все перечисленные угрозы вероятными (и даже правдоподобными). Даже если мы направим свое внимание лишь на пандемии искусственного происхождения, я полагаю, что сопряженный с ними экзистенциальный риск больше, чем все остальные риски из последних двух глав, вместе взятые, а этих рисков уже было достаточно, чтобы защита человечества стала главной заботой нашего времени.

Непредвиденные риски

Представьте, что научному институту в 1930 году поручили составить список экзистенциальных рисков, с которыми человечество столкнется в последующее столетие. Ученые упустили бы большинство рисков из этой книги, особенно антропогенных^[461]. О существовании одних они, возможно, подозревали бы, но другие стали бы для них полной неожиданностью. Какая доля риска лежит вне поля нашего зрения?