На краю пропасти. Экзистенциальный риск и будущее человечества

Наконец, трудность возникает и при работе со всеми маловероятными рисками с высокими ставками. Допустим, по оценкам ученых, беспрецедентный технологический риск может с чрезвычайно малой вероятностью вызвать экзистенциальную катастрофу. Пусть вероятность этого составляет один на триллион. Можем ли мы использовать эту конкретную цифру в своем анализе? К сожалению, нет. Вероятность того, что ученые некорректно оценили эту вероятность, во много раз выше, чем один на триллион. Как мы помним, они не сумели оценить масштаб колоссального ядерного взрыва “Касл Браво”^[531], а если бы просчет был настолько маловероятен, таких примеров не было бы. Следовательно, если катастрофа все-таки происходит, гораздо вероятнее то, что в расчеты закралась ошибка и реальный риск был серьезнее, чем то, что произошло событие с вероятностью один на триллион.

Это значит, что число один на триллион не может быть точкой отсчета при принятии решений, а те, кто их принимает, должны учитывать это и ориентироваться на более высокую вероятность^[532]. Не очень понятно, как именно это делать. Общая установка состоит, в частности, в том, что неопределенность физической вероятности события не может быть причиной игнорировать риск, поскольку истинный риск может быть как выше, так и ниже. Более того, если изначальная оценка вероятности очень низка, корректный учет неопределенности часто ухудшает ситуацию, поскольку истинная вероятность может быть существенно выше, а может быть и значительно ниже^[533].

Трудности, связанные с экзистенциальным риском, неординарны, но они разрешимы. Для этого необходимо расширить наши теоретические знания о том, как оценивать риски, беспрецедентные по своей природе. Нужно научиться лучше сканировать горизонт и прогнозировать появление подрывных технологий, а также более эффективно внедрять эти методы и идеи в процесс принятия стратегических решений.

Международная координация

Защита человечества – общественное благо мирового масштаба. Как мы увидели ранее, даже в такой влиятельной стране, как США, живет всего одна двадцатая часть населения Земли, а следовательно, на долю США придется лишь одна двадцатая часть выгод от предотвращения катастрофы. Если страны не пытаются скоординировать свои усилия, возникает проблема коллективных действий. У отдельных стран недостаточно стимулов для того, чтобы совершать определенные действия по снижению риска и избегать действий, ведущих к возникновению риска, и все стараются выехать за счет других. Поэтому следует ожидать, что действия по снижению риска будут недостаточны, а действия, ведущие к его повышению, – избыточны.

В связи с этим возникает необходимость международной координации в сфере экзистенциального риска. Мотивы отдельной страны совпадают с мотивами человечества лишь в том случае, если мы делим издержки на внедрение соответствующих мер точно так же, как делим выгоды. Иногда страны все же действуют в общих интересах человечества, но это скорее исключение, чем правило. Совместными усилиями мы можем справиться с этой трагедией общих ресурсов, если будем делать ставки не на альтруизм стран, а на их благоразумие: пусть не идеальный, но все же более приемлемый вариант.

Полезно было бы и централизовать часть международной работы по защите человечества. Это поможет объединять накопленный опыт, делиться знаниями и облегчит координацию. Кроме того, станет проще принимать меры там, где необходимо выступить единым фронтом, меры, эффективность которых завязана на самом слабом из звеньев цепи: например, при введении мораториев на опасные типы исследований или в сфере регулирования применения геоинженерии.

Для координации наших действий необходимы международные институты, работающие с экзистенциальным риском. Но пока совсем неясно, какими они должны быть. Нужно решить, как проводить эти изменения – плавно или резко, какими сделать институты – консультационными или регуляторными, а также какой сделать их сферу ответственности – узкой или широкой. Спектр возможностей широк: от того, чтобы постепенно улучшать небольшие агентства, до радикальной трансформации важнейших институтов, таких как Совет безопасности ООН, и вплоть до создания совершенно новых органов для урегулирования важнейших мировых вопросов.