На краю пропасти. Экзистенциальный риск и будущее человечества

Хотя философия морали будет играть главную роль, долгое раздумье потребует вклада от представителей многих дисциплин. Нужно будет определить не только то, какие варианты будущего лучше всех, но и прежде всего то, какие из них реалистичны и какие стратегии с наибольшей вероятностью приведут к их реализации. К этому необходимо подключить естественные науки, инженерию, экономику, политологию и другие сферы.

Можно считать, что первые два шага – обеспечение экзистенциальной безопасности и долгое раздумье – создадут конституцию для всего человечества. Обеспечить экзистенциальную безопасность – все равно что вписать в эту конституцию необходимость беречь наш потенциал. А затем долгое раздумье поможет воплотить конституционные принципы на практике, определив, в каком направлении и в каких границах будет разворачиваться наше будущее.

Но конечной нашей целью, разумеется, станет последний шаг: полная реализация потенциала человечества^[516]. Это можно отложить до тех пор, пока мы не определили, какой из вариантов будущего лучший, и не поняли, как прийти к нему, не совершив какой-либо роковой ошибки. Хотя приступить к раздумьям можно и сейчас, это не самая срочная задача^[517]. Чтобы максимизировать наши шансы на успех, нужно прежде всего защитить себя, то есть обеспечить экзистенциальную безопасность. Именно эта задача стоит перед нами сейчас. Остальное может подождать.

Безопасность среди звезд?

Многие из тех, кто писал о рисках вымирания человечества, полагают, что если мы доживем до момента, когда сумеем расселиться по космосу, то будем в безопасности: сейчас мы храним все яйца в одной корзине, но, став межпланетным видом, положим конец этому периоду уязвимости^[518]. Так ли это? Будет ли обеспечена экзистенциальная безопасность, если мы колонизируем другие планеты?

В основе этой идеи лежит важная статистическая истина. Если бы количество локаций, которые необходимо уничтожить, чтобы погубить человечество, увеличивалось и если бы вероятность того, что каждая из них столкнется с катастрофой, существовала независимо от того, произойдет ли это с остальными, то человечество вполне могло бы существовать бесконечно^[519].

К несчастью, этот довод применим лишь к статистически независимым рискам. Многие риски, например риски болезни, войны, тирании и вечной приверженности плохим ценностям, на разных планетах коррелированы: если с ними сталкивается одна из них, то вероятность того, что с ними столкнутся и другие, несколько повышается. Некоторые риски, например неконтролируемый ОИИ и схлопывание вакуума, состоят почти в полной корреляции: если с ними сталкивается одна планета, то, скорее всего, с ними столкнутся и все остальные^[520]. Предположительно, некоторые еще не выявленные риски также окажутся в корреляции в наших колониях.