На краю пропасти. Экзистенциальный риск и будущее человечества

Мы редко всерьез задумываемся о рисках для всего потенциала человечества. В основном мы сталкиваемся с ними в боевиках, но в таких случаях наш эмоциональный ответ оказывается приглушенным из-за того, что подобными угрозами злоупотребляют, ведь с их помощью легко усилить драматический эффект^[90]. Мы видим их и в интернете, когда листаем списки вроде “десять вариантов конца света”, составляемые главным образом для того, чтобы будоражить и развлекать читателей. После окончания холодной войны мы редко натыкаемся на рациональные дискуссии с участием ведущих мыслителей на тему того, что вымирание значило бы для нас, для наших культур, а также для всего человечества^[91]. Поэтому в обычной жизни люди зачастую довольно легкомысленно относятся к перспективе вымирания человека.

Но когда риск становится очевидным и достоверным – когда совершенно ясно, что миллиарды жизней и все будущие поколения висят на волоске, – большинство людей не сомневается в важности защиты долгосрочного потенциала человечества. Если бы мы узнали, что к Земле летит крупный астероид, столкновение с которым с вероятностью более 10 % приведет к вымиранию человечества до завершения текущего столетия, вряд ли кто-то стал бы спорить, что́ лучше – потрудиться и построить отклоняющую систему или же закрыть глаза на проблему и понадеяться на авось. Напротив, ответ на угрозу немедленно стал бы одним из главных мировых приоритетов. Таким образом, отсутствие беспокойства из-за подобных угроз сегодня связано скорее с тем, что мы пока не верим в их существование, чем с тем, что мы всерьез сомневаемся в огромном размере ставок.

И все же очень важно постараться понять, из каких источников исходят серьезные угрозы. Это понимание подстегнет наши эмоции и подтолкнет к действию, вызовет новые дискуссии, а также поможет принимать решения о расстановке приоритетов.

Что мы видим в настоящем?

Не все экзистенциальные катастрофы предполагают вымирание человечества, и не все сценарии вымирания предполагают боль или безвременную смерть. Например, теоретически мы могли бы просто решить не заводить потомство. Это могло бы уничтожить наш потенциал, не причинив нам страданий, что вполне допустимо. Но экзистенциальные риски, с которыми мы сталкиваемся в реальности, не столь безболезненны. Напротив, они объективно чудовищны, если судить по общепринятым моральным стандартам.

Если в грядущее столетие человечество будет уничтожено в ходе ядерной зимы, или спроектированной пандемии, или катастрофической войны с использованием новых технологий, то прервутся семь миллиардов жизней, включая, возможно, и вашу жизнь или жизни ваших близких. Многие, вероятно, умрут в муках – от голода, огня, болезней.

Нет нужды объяснять, почему мораль обязывает нас предотвратить этот ужас. Человечество уже переживало катастрофы меньших масштабов, в которых погибали тысячи и даже миллионы людей. Мы знаем, как бесконечно важно предотвращать такие события. В таком масштабе мы теряем способность в полной мере осознавать величину убытков, и все же цифры дают нам представление о том, что с моральной точки зрения стоит на кону^[92]. При прочих равных миллионы смертей значительно хуже тысяч, а миллиарды – значительно хуже миллионов. Даже если оценивать катастрофы только по количеству прерванных жизней, вымирание человечества, несомненно, стало бы худшим событием в нашей долгой истории.

Что мы видим в будущем?

Но экзистенциальная катастрофа – это не просто катастрофа, уничтожающая исключительно большое число жизней. Она уничтожает и наш потенциал.

Мой наставник Дерек Парфит предлагал нам представить, как опустошительная ядерная война убивает 99 % населения планеты^[93]. После такой войны на многие столетия настали бы темные времена, но в конце концов выжившие смогли бы восстановить цивилизацию в прежнем виде, посрамленные, израненные – но непобежденные.

Теперь сравните это с войной, в которой погибают все 100 % населения. Вторая война, конечно, будет хуже, но насколько? Любая из них может стать худшей катастрофой в истории. В любой погибнут миллиарды. Во второй войне погибших будет на десятки миллионов больше, и по этой причине она хуже. Но есть и другое, гораздо более значимое различие между этими войнами. В обеих погибают миллиарды человек, но только во второй погибает человечество. Обе разрушают наше настоящее, но лишь вторая разрушает наше будущее.

Именно эта количественная разница в потерях за счет последнего процента делает экзистенциальные катастрофы уникальными, в связи с чем снижение риска экзистенциальной катастрофы приобретает исключительную важность^[94].

Ожидается, что почти всем людям, которые когда-либо будут жить на Земле, еще только предстоит родиться. В отсутствие катастрофы большинство поколений – будущие. Писатель Джонатан Шелл сказал об этом так: