На краю пропасти. Экзистенциальный риск и будущее человечества

Необратимые дистопии, с которыми мы можем столкнуться, можно разделить на три типа в зависимости от того, хотят ли люди, живущие в них, жить в таких мирах. В некоторых сценариях люди не хотят жить в таком мире, но общество устроено таким образом, что люди практически лишены возможности скоординировать свои усилия и изменить ситуацию. В других сценариях люди хотят жить в таком мире, но они заблуждаются, а мир не идет ни в какое сравнение с тем, чего они могли бы достичь. Есть и промежуточный вариант, когда лишь небольшая группа людей хочет жить в таком мире, но заставляет остальных жить в нем против их воли. Каждой из этих дистопий придется преодолеть определенные сложности, прежде чем они станут по-настоящему необратимыми.

Рисунок 5.2. Расширенная классификация экзистенциальных катастроф по типу исхода, который становится необратимым.

Заметьте, чтобы считаться экзистенциальными катастрофами, эти сценарии не должны предполагать невозможность изменения ситуации и не должны продолжаться миллионы лет. Их определяющая характеристика в том, что переход к соответствующему режиму случился в важный поворотный момент в истории человеческого потенциала, после чего ситуация изменилась к худшему и почти весь наш потенциал построить достойное будущее оказался заблокирован. Можно сказать, что тогда, когда они закончатся (а они рано или поздно закончатся), мы с гораздо большей вероятностью, чем раньше, станем жертвами вымирания или коллапса, чем сможем реализовать свой потенциал. Следовательно, дистопическое общество, просуществовавшее до момента, когда человечество уничтожат внешними силами, будет считаться экзистенциальной катастрофой. Однако, если дистопический исход не имеет такого свойства, а по его завершении у нас сохраняются все шансы на успех, его стоит признать темной эпохой нашей истории, а не истинной экзистенциальной катастрофой.

Лучше всего нам знакома вынужденная дистопия. Подъем экспансионистского тоталитаризма в середине XX века подтолкнул таких интеллектуалов, как Джордж Оруэлл, заговорить о возможности появления тоталитарного государства, которое добьется глобального господства и получит полный контроль над людьми, в результате чего мир окажется в плачевном состоянии^[441]. Доказательством того, что такое теоретически возможно, служат режимы Гитлера и Сталина, каждый из которых постепенно превращался в имперскую сверхдержаву, сохраняя предельный контроль над своими гражданами^[442]. Неясно, однако, были ли у Гитлера или Сталина амбиции подчинить себе весь мир, а также технические и социальные ресурсы для создания поистине устойчивых режимов^[443].

Это может измениться. Технический прогресс дал нам множество новых инструментов, чтобы выявлять и подавлять протест, и есть все основания полагать, что в следующем столетии он продолжится. Особенно важным представляется развитие ИИ, которое позволяет осуществлять обстоятельный автоматизированный мониторинг всего происходящего в общественных местах – физических и виртуальных. Благодаря таким прорывам могут появиться гораздо более устойчивые режимы, чем в прошлом.

В то же время технологии дают людям и новые инструменты, чтобы восставать против власти, такие как интернет и шифрование сообщений. Возможно, баланс сил сохранится, а возможно, сместится в сторону свободы, но есть немалая вероятность, что он сдвинется в сторону усиления контроля над населением, в результате чего появление вынужденных дистопий станет реалистичным сценарием.

Второй тип необратимой дистопии – стабильная цивилизация, которую хотят немногие (если вообще хоть кто-то). Легко понять, как такой исход может стать дистопичным, однако не слишком очевидно, как мы можем к нему прийти или в нем застрять, если большинство людей (или вообще никто) его не хочет^[444].

Ответ связан с различными силами, которые воздействуют на все население и могут оказывать влияние на глобальные исходы. К хорошо известным примерам относятся рыночные механизмы, запускающие гонку по нисходящей, мальтузианская демографическая динамика, снижающая среднее качество жизни, и эволюция, которая нацеливает нас на распространение собственных генов вне зависимости от того, как это сказывается на наших ценностях. Эти силы подталкивают человечество к новому балансу, который наконец приведет их в равновесие. Но никто не гарантирует, что этот баланс окажется благоприятным для человека.

Рассмотрим, например, противоречие между личным и общественным благом. В теории игр его изучают с помощью таких “игр”, как дилемма заключенного и трагедия общих ресурсов, где действия индивидов, которые руководствуются личными мотивами, приводят к ужасному исходу для общества. Равновесие Нэша (исход, к которому мы приходим, если руководствуемся личными мотивами) может быть для всех гораздо хуже, чем какой-нибудь другой результат, которого мы могли бы достичь, если бы смогли преодолеть личные интересы.