На краю пропасти. Экзистенциальный риск и будущее человечества

Следовательно, эти гипотетические обоснования слогана Нарвесона противоречат нашей глубокой убежденности в том, что нельзя допустить появления новых жизней с отрицательным благосостоянием. В связи с этим я полагаю, что описанные попытки теоретически обосновать этот слоган бесперспективны, по крайней мере сами по себе. Любая убедительная теория популяционной этики будет рекомендовать варианты, при которых никто из людей, существующих в обоих исходах, не выиграет, и будет предлагать пойти на жертвы ради еще не появившихся на свет людей.

Учитывая сложности при обосновании слогана Нарвесона с точки зрения более базовой теории морали, философы, которым слоган импонирует, все чаще утверждают, что достаточно и того, что он передает наши интуитивные соображения в ряде случаев лучше, чем альтернативные теории. Сам по себе этот слоган не объясняет, как оценивать жизни с отрицательным благосостоянием, поэтому сторонники такого подхода добавляют к нему принцип асимметрии, который гласит, что увеличение числа жизней с положительным благосостоянием не делает исход лучше, но увеличение числа жизней с отрицательным благосостоянием делает его хуже.

Философы разработали множество теорий на основе двух этих принципов. Поскольку они весьма разнообразны и продолжают развиваться, а единого подхода к вопросу нет, мы не рассчитываем провести их обстоятельный разбор на этих страницах. Можно, однако, посмотреть на общие закономерности. Как правило, эти теории сталкиваются с рядом проблем: противоречат интуитивным представлениям о мысленных экспериментах, противоречат важным моральным принципам и идут вразрез с общепринятыми принципами рациональности^[643]. Когда теории корректируются с целью избежать некоторых из этих проблем, как правило, усугубляются другие проблемы или возникают новые.

Но важнее всего, пожалуй, то, что и слоган, и принцип асимметрии обычно оправдывают только отсылкой к нашей интуиции в отдельных случаях^[644]. Но если в одних ситуациях теории, затрагивающие личность, хорошо согласуются с нашими интуитивными представлениями, то в других – плохо. В нашем случае – при ответе на вопрос, плохо ли было бы, если бы люди вымерли, – эти теории приводят нас к выводам, которые большинство людей считают весьма неочевидными^[645]. Вообще говоря, не стоит ожидать, что спорная теория станет нашим проводником в той области, где она хуже всего соответствует нашим убеждениям^[646].

Кроме того, в некоторых вариантах теорий, затрагивающих личность, ключевые идеи передаются без отрицания того, что вымирание – плохо. Так, существуют менее строгие теории, согласно которым у нас есть некоторая причина создавать жизни с высоким благосостоянием, но есть и еще более весомая причина помогать существующим людям или не допускать появления жизней с низким благосостоянием. Поскольку в будущем может появиться очень много новых жизней с высоким благосостоянием, его значимость остается очень высокой.

Итак, согласно некоторым подходам к оценке благосостояния людей будущего, нам не так уж важно не допустить вымирания. Многие из этих взглядов признаны несостоятельными, но некоторые не сдают позиций, и исследования в этой сфере продолжаются. Стороннику такого подхода довод, основанный на потере будущего благосостояния, может показаться неубедительным.

Обратите, однако, внимание, что это лишь одна попытка объяснить, почему защита человечества имеет чрезвычайную важность. Есть и другие объяснения, в которых акцент делается на великих достижениях, возможных в будущем (предположительно, величайшие завоевания человечества в науке и искусстве еще впереди), и сферах помимо нашего будущего: нашем прошлом, нашем характере, нашей космической значимости и потерях нынешнего поколения. Люди, которые при рассмотрении благосостояния будущих поколений придерживаются теорий, затрагивающих личность, вполне могут услышать и другие доводы, по которым вымирание не пойдет нам на пользу. Остается и аргумент, основанный на моральной неопределенности: если вы полагаете, что есть немалая вероятность того, что подходы, затрагивающие личность, ошибочны, было бы крайне неразумно рисковать всем нашим будущим, когда в соответствии со множеством других теорий морали оно имеет необычайную важность.

Наконец, мы главным образом рассматривали моральную важность того, чтобы не допустить вымирания. Даже те теории популяционной этики, в которых не придают значения вымиранию, признают огромное значение других экзистенциальных катастроф, например необратимого коллапса цивилизации или неизбежной дистопии. Следовательно, даже тех, кого не заботит вымирание человечества, должны глубоко волновать другие экзистенциальные риски. А поскольку опасности, грозящие вымиранием, обычно грозят и необратимым коллапсом цивилизации, набор рисков, вызывающих беспокойство у этих людей, оказывается примерно таким же.

Приложение C

Чрезвычайные происшествия с ядерным оружием