На краю пропасти. Экзистенциальный риск и будущее человечества

Рассмотрим возможность искусственной пандемии, входящую, как мы скоро увидим, в число самых серьезных рисков, с которыми сталкивается человечество. Годовой бюджет международного органа, ответственного за запрет биологического оружия (Конвенции о биологическом оружии), составляет всего 1,4 млн долларов, а это меньше бюджета среднего “Макдональдса”^[128]. Все расходы на снижение экзистенциальных рисков, связанных с продвинутым искусственным интеллектом, ограничиваются десятками миллионов долларов, в то время как на развитие искусственного интеллекта выделяются миллиарды долларов^[129]. Сложно точно измерить мировые расходы на снижение экзистенциального риска, но можно с уверенностью сказать, что человечество из года в год больше тратит на мороженое, чем на обеспечение того, чтобы разрабатываемые нами технологии нас не уничтожили^[130].

В научных исследованиях ситуация примерно такая же. Подробно изучается риск небольших катастроф, но катастрофы, способные уничтожить долгосрочный потенциал человечества, остаются без внимания. В период с 1991 года было опубликовано лишь две климатические модели, показывающие эффекты полноценной ядерной войны между США и Россией, несмотря на то, что в считаные минуты может быть осуществлен пуск целых сотен ракет^[131]. Проводится огромная работа по исследованию изменения климата, но худшие сценарии – например, предполагающие потепление более чем на шесть градусов – изучаются сравнительно мало и обычно остаются без внимания в официальных докладах и при обсуждении стратегических планов^[132].

Почему же стратегические риски не получают должного внимания, хотя они реальны и настолько значимы? Почему ими систематически пренебрегают? Ответы можно найти в экономике, политике, психологии и истории экзистенциального риска.

Экономическая теория говорит нам, что рынки, страны и целые поколения будут недооценивать экзистенциальный риск. Хотя рынки прекрасно справляются с тем, чтобы поставлять самые разные виды товаров и услуг, некоторые виды систематически поставляются в недостаточном количестве. Рассмотрим чистый воздух. Когда качество воздуха повышается, выгоду получает не конкретный индивид, а все члены общества. Когда я получаю выгоду от более чистого воздуха, это не уменьшает выгоду, которую приобретаете в такой ситуации вы. Вещи, обладающие двумя такими характеристиками, называются общественными благами, и рынки плохо справляются с их поставкой^[133]. Как правило, мы решаем эту проблему на местном или национальном уровне, вверяя правительству задачу финансировать или регулировать обеспечение общественных благ.

Защита от экзистенциального риска – это общественное благо: защита пойдет на пользу всем нам, а моя защита не идет во вред вашей. Таким образом, мы ожидаем, что рынок будет пренебрегать экзистенциальным риском. Хуже того, защита от экзистенциального риска – это глобальное общественное благо, и выгодоприобретатели разбросаны по всему миру. Это значит, что пренебрегать им будут даже государства.

Я пишу эту книгу в Великобритании. Эта страна с населением около 70 млн человек – одна из самых населенных в мире, но число ее жителей составляет менее 1 % текущего населения Земли. Решив в одиночку работать с экзистенциальным риском, Великобритания взвалит на себя все расходы на соответствующие меры, но получит лишь одну сотую долю выгод. Иными словами, даже если бы британское правительство было прекрасно информировано и действовало в интересах граждан, оно в 100 раз обесценивало бы работу по снижению экзистенциального риска. Подобным образом Россия обесценивала бы ее в 50 раз, США – в 20 раз, и даже Китай не смог бы не обесценить ее в 5 раз. Поскольку столь большая доля выгод перетекает другим странам, каждой из них хочется выехать на плечах остальных и часть работы, которая пошла бы на пользу всем нам, не делается вовсе.

Тот же эффект, который приводит к этому недостатку защиты, приводит к переизбытку риска. Поскольку лишь 1 % ущерба от экзистенциальной катастрофы приходится на граждан Великобритании, британское правительство заинтересовано в том, чтобы недооценивать минусы рискованных мер, снижая их в те же самые 100 раз. (Ситуация становится еще хуже, если у индивидов или небольших групп появляется возможность представлять экзистенциальные риски.)

Это значит, что управлять экзистенциальным риском лучше всего на глобальном уровне. Но в отсутствие эффективных институтов это чрезвычайно сложно, в связи с чем скорость реакции мира снижается, а опасность того, что выжидающие страны поставят под угрозу срыва весь процесс, повышается.