На краю пропасти. Экзистенциальный риск и будущее человечества

Может, наверху уже война началась, а мы тут кувыркаемся. Мы сейчас по ним шарахнем! Сами погибнем, их потопим всех, но флот не опозорим!^[1]

Чтобы выпустить атомную торпеду, нужно было получить согласие замполита подводной лодки, у которого была вторая половина стартового ключа. Хотя решение капитана не было согласовано с Москвой, замполит его одобрил.

На любой из других трех подводных лодок этого было бы достаточно для пуска атомной торпеды. Но на борту Б-59 по чистейшей случайности присутствовал командующий всей флотилией капитан Василий Архипов, поэтому требовалось и его согласие. Архипов отказался его дать. Он успокоил капитана Савицкого, уговорил его отказаться от своего плана и вместо этого поднять судно на поверхность и ожидать дальнейших распоряжений из Москвы^[2].

Мы не знаем точно, что случилось бы, если бы Архипов дал согласие – или если бы он просто находился на любой из трех других лодок. Возможно, Савицкий не исполнил бы собственный приказ. И все же ясно, что мы оказались в опасной близости от ядерного удара по блокирующему остров флоту – удара, который, скорее всего, привел бы к ядерному ответу, а затем эскалации конфликта в полномасштабную ядерную войну (единственную, к которой США готовились). Много лет спустя Роберт Макнамара, который занимал пост министра обороны во время кризиса, пришел к такому же выводу:

Не следует полагать, что, если бы американские войска были атакованы ядерными боеголовками, США не ответили бы ядерными боеголовками. К чему бы это привело? К полной катастрофе^[3].

С тех пор как у человечества появилось ядерное оружие, мы постоянно оказываемся перед подобным выбором. Решения в нашем мире принимаются в неидеальных условиях: оперируя поразительно неполной информацией, люди управляют технологиями, которые угрожают будущему всего нашего вида. Нам повезло в тот субботний день в 1962 году, и мы смогли избежать катастрофы. Но наши разрушительные способности продолжают расти, и мы не можем вечно полагаться на удачу.

Нам нужно принять решительные меры, чтобы покончить с этим периодом эскалации риска и обеспечить себе будущее. К счастью, это в нашей власти. Главные риски связаны с деятельностью человека, поэтому он может их предотвратить. Таким образом, нам предстоит решить, выживет ли человечество в эту эпоху. Но это непростой выбор. Все зависит от того, как быстро мы поймем и примем на себя новую ответственность, которая приходит с нашей беспрецедентной мощью.

Это книга об экзистенциальных рисках – рисках, которые грозят уничтожением долгосрочного потенциала человечества. Вымирание – самый очевидный путь к уничтожению этого потенциала, но есть и другие. Если цивилизацию на планете ждет полный крах, наш долгосрочный потенциал тоже погибнет. Мы увидим, что есть и антиутопические сценарии: мы можем оказаться взаперти в обреченном мире, где у нас не будет пути назад.

Хотя эта категория рисков разнообразна, она еще и специфична. Мне придется воздержаться от рассмотрения множества важных рисков, которые в нее не входят: мы говорим не о новых темных веках, которые ждут человечество и природный мир (какими бы ужасными они ни оказались), а о полном уничтожении потенциала человечества.

Экзистенциальные риски ставят перед нами проблемы нового типа. Они требуют от нас координации на международном и межпоколенческом уровнях, причем такого тесного, какого не было прежде. И нам следует быть дальновидными, а не действовать методом проб и ошибок. Поскольку риски не дают нам права на ошибку, необходимо создать институты, гарантирующие, что никогда в будущем мы не станем жертвами такой катастрофы.

Чтобы должным образом раскрыть тему, нужно охватить очень многое. Анализ рисков предполагает погружение в физику, биологию, геонауки и информатику; определение их места в общей картине мира требует обращения к истории и антропологии; при оценке ставок задействуются философия морали и экономика; а поиск решений невозможен без международных отношений и политологии. Если делать все как полагается, нужно глубоко погружаться в каждую из этих дисциплин, а не выбирать цитаты экспертов и исследования, подходящие для обоснования заранее выстроенной концепции. Это было бы непосильной задачей для одного человека, поэтому я невероятно благодарен десяткам ведущих мировых экспертов в этих сферах, которые консультировали меня и давали свои критические оценки^[4].

В этой книге я ставлю перед собой амбициозные задачи. Внимательный анализ потенциала человечества и рисков, с которыми мы сталкиваемся, показывает, что мы живем в самую важную эпоху человеческой истории. Серьезные риски, грозящие нашему будущему, – это новая проблема, и мы еще не научились размышлять о них. Книга “На краю пропасти” предлагает новую этическую перспективу, существенно перестраивая наши представления о мире и нашем месте в нем. Это нужно, чтобы попытаться сократить разрыв между мудростью и мощью человечества и дать людям четко понять, что стоит на кону, чтобы мы приняли верные решения для защиты собственного будущего.