Манифест Унабомбера

169. В-третьих, нет полной уверенности в том, что выживание системы приведёт к меньшим страданиям, чем привело бы её крушение. Система как раньше служила причиной, так и по сей день продолжает быть причиной безмерных страданий всего существующего на Земле. Древние культуры, которые на протяжении сотен лет создавали людям условия для удовлетворительных отношений друг с другом и с окружающей средой, были разрушены соприкосновением с индустриальным обществом, результатом чего стал полный набор экономических, экологических, социальных и психологических проблем. Одним из последствий вторжения индустриального общества явилось то, что подавляющее большинство традиционных мировых средств управления населением вышло из стабильного состояния. Отсюда бурный рост населения со всеми вытекающими последствиями. Затем наступает психическое страдание, которое широко распространено в якобы благополучных странах Запада (см. параграфы 44, 45). Никто не знает, что произойдёт в результате истощения озонового слоя, парникового эффекта и других экологических проблем, которые пока не могут быть предсказаны. И, как показал факт распространения ядерного оружия, новая технология не может быть убережена, чтобы не оказаться в руках диктаторов и безответственных народов третьего мира. Не хотели бы вы поразмышлять о том, что Ирак[85] и Северная Корея будут делать с генной инженерией?

170. "Ерунда! — скажут технофилы, — Наука приведёт всё это в порядок. Мы победим голод, уничтожим психическое страдание, сделаем каждого здоровым и счастливым!" Да, безусловно. Они говорили это и двести лет назад. Предполагалось, что индустриальная революция уничтожит нищету, сделает всех счастливыми и т. д. В реальности всё оказалось совершенно иначе. Технофилы безнадёжно наивны (или обманывают сами себя) в своём понимании социальных проблем. Они не подозревают (или предпочитают игнорировать) о том, что, когда в обществе происходят значительные перемены, даже на первый взгляд благотворные, они приводят к длительной череде других изменений, большинство из которых невозможно спрогнозировать (параграф 103). Результат этого — крах общества. Так что вполне возможно, что в своей попытке покончить с бедностью и болезнями, произвести покорных и счастливых людей и т. д., технофилы создадут крайне проблемную социальную систему, даже более проблемную, чем ныне существующая. Например, учёные хвастаются, что они покончат с голодом, создав новые, генетически видоизменённые съедобные растения. Но ведь это даст возможность человеческому населению неограниченно возрасти, однако, хорошо известно, что уплотнение населения приводит к росту стресса и агрессии. Это лишь один пример ПРЕДСКАЗУЕМЫХ проблем, которые возникнут. Мы же подчёркиваем, что, как показывает опыт, технический прогресс будет приводить к новым проблемам, которые заблаговременно НЕ СМОГУТ быть предсказаны (параграф 103). В сущности, начиная с индустриальной революции, технология неизменно создаёт новые проблемы для общества гораздо быстрее, чем решает старые. Так что исправление дефектов их дивного нового мира[86] займёт у технофилов длительный и сложный период проб и ошибок (если они всё сделают). Тем временем нагрянет великое страдание. Таким образом, вовсе не очевидно, что выживание индустриального общества повлечёт за собой меньшее страдание, чем его крушение. Технология приведёт человеческую расу к катастрофе, от которой вряд ли будет легко найти какое-то спасение.

Будущее [87]

171. Но представим теперь, что индустриальное общество пережило следующие десятилетия, и что дефекты системы в конечном итоге исправлены, так что она функционирует без перебоев. Что это будет за система? Мы рассмотрим несколько вариантов.

172. Во-первых, давайте примем без доказательств, что специалисты по компьютерной технике преуспели в развитии машин с искусственным интеллектом, которые могут делать всё гораздо лучше, чем люди. В этом случае, вероятно, вся работа будет выполняться пространными, высоко организованными системами машин, а в человеческих усилиях просто не будет необходимости. Может произойти одно из двух. Машинам может быть позволено принимать все свои решения без человеческого надзора, или же человеческий контроль над ними будет сохранён.