На краю пропасти. Экзистенциальный риск и будущее человечества

Хотя это не может не подорвать веру в то, что биологическое оружие представляет серьезный экзистенциальный риск, неясно, насколько надежны на самом деле такие свидетельства. Основная часть умерших в пандемиях приходится на чрезвычайно редкие, из ряда вон выходящие события, которые случаются реже чем один раз в столетие. Следовательно, отсутствие крупных катастроф за столетие разработки биологического оружия не дает нам весомых статистических свидетельств. Чтобы извлечь максимум из сырых данных, необходимо смоделировать базовые распределения и посмотреть, имеют ли распределения биологического оружия и биологического терроризма более тяжелые хвосты, чем распределения пандемий естественного происхождения.

367

Невозможно в совершенстве овладеть необходимыми техниками, опираясь лишь на теоретические материалы. Даже опытным ученым порой бывает очень трудно освоить новые техники без очного обучения. Успешно управлять таким масштабным проектом в условиях полной секретности чрезвычайно сложно, и это, вероятно, главный операционный барьер. См. Danzig et al. (2011), где это обсуждается в связи с делом “Аум синрикё”.

368

Acemoglu (2013); RAND (n. d.).

369

Согласно степенному закону, вероятность события масштаба x пропорциональна xα, где α – параметр меньше –1. Чем ближе α к –1, тем медленнее снижается вероятность исключительных событий и тем радикальнее ведет себя статистика.

В степенных распределениях с особенно тяжелыми хвостами, о которых я упоминал, α находится в диапазоне от –2 до –1. Такие распределения настолько радикальны, что не имеют даже очевидных средних: вероятность все более масштабных событий снижается так медленно, что сумма, соответствующая их ожидаемому масштабу, не сходится. Значение α для войны оценивается в –1,4 (Cederman, 2003), а для терроризма с применением биологических и химических веществ – в –1,8 (Clauset & Young, 2005).

Ведутся серьезные споры о том, действительно ли вероятность различных катастроф распределяется по степенному закону. Например, правые хвосты логнормальных распределений приблизительно соответствуют хвостам степенных распределений, из за чего их можно перепутать, но в логнормальных распределениях вероятность событий малого масштаба ниже, чем в степенных. Но для наших целей можно и не разграничивать разные распределения с тяжелыми хвостами. Нас интересует только то, соответствует ли распределение в правом хвосте (распределение масштабных событий) степенному закону (~xα), какова его экспонента, а также в какой сфере действует степенная зависимость.

Любое реальное распределение соответствует степенному закону лишь до определенного уровня. Далее в игру вступают другие ограничения (например, общая численность населения, которое может быть затронуто), и истинная вероятность обычно оказывается меньше, чем рассчитанная по степенному закону. Из-за этого применение степенных законов для моделирования вероятности событий за пределами наблюдаемой сферы становится весьма умозрительным (хотя их вполне можно использовать для расчета верхнего предела истинной вероятности). Это также подразумевает, что реальные распределения, вероятно, имеют средние, хотя они с легкостью могут оказаться выше исторических средних и даже выше самых высоких показателей, наблюдавшихся к настоящему моменту.

370

Стоимость создания первой человеческой геномной последовательности оценивается в 0,5–1 млрд долларов (~0,7–1,4 млрд с поправкой на инфляцию) (NHGRI, 2018). На момент написания этой книги компания Dante Labs предоставляет услугу по секвенированию всего генома за 599 евро (см. примечание 23 к этой главе).

371

Carlson (2016).

372

Первые генные драйвы были осуществлены в 2015 году (DiCarlo et al., 2015), и одна команда планировала использовать эти техники в соревновании 2016 года (iGEM Minnesota Team, 2016). Основополагающая статья о редактировании генома с помощью CRISPR-Cas9 была опубликована в августе 2012 года (Jinek et al., 2012), и несколько команд применяли этот метод на соревновании 2013 года (iGEM, 2013).

373

Danzig et al. (2011). В первом теракте “Аум синрикё” с применением зарина, осуществленном в 1994 году и направленном против судей, задействованных в процессах по делу организации, погибло 8 человек и пострадало 200. Вскоре после этого члены организации с помощью VX-газа убили человека, которого заподозрили в сотрудничестве с полицией. На следующий год в устроенном ими теракте в токийском метро погибло 13 человек и пострадало 6000.

374

В письме Эйнштейну о содержании их манифеста (датированном 11 февраля 1955 года) Рассел написал: “Хотя в настоящий момент в центре внимания находится водородная бомба, разрушительные возможности науки этим не ограничиваются, и вероятно, что совсем скоро бактериологическое оружие станет представлять не меньшую опасность” (Russell, 2012).

375

Из статьи Ледерберга “Биологическое оружие и гибель человечества” (1969).

376