Корпорация «Бог и голем»

Многие годы все армии на свете играли в военные игры, и все эти игры отставали от своих эпох. Кто-то сказал, что на каждой войне толковый полководец воюет так, как воевали в последней войне, а дурной — как в предпоследней[25]. Это означает, что способы ведения войн неизменно отстают от событий реальной обстановки.

Это было верно всегда, пускай в периоды, которые изобиловали войнами, непременно находилось какое-то число умудренных схватками воинов, которые вели бои в условиях, изменявшихся сравнительно медленно. Такие опытные воины могут считаться единственными военными экспертами в полном смысле этого словосочетания. В настоящее время не существует экспертов по ядерной войне: нет людей, обладающих опытом участия в конфликте, где обе стороны располагают атомным оружием и используют это оружие. Разрушение наших городов в ядерной войне, деморализация населения, голод и болезни, побочные воздействия (число жертв которых с немалой вероятностью будет намного превосходить число жертв от взрывов и последующего заражения) — обо всем этом известно лишь предположительно.

Данное обстоятельство позволяет тем, кто прогнозирует малое число жертв побочных воздействий и рассуждает о больших шансах на выживание народов после катастрофы нового типа, гордо рядиться в патриотические одежды. Но если война ведет к полному истреблению, если обычные военные действия лишены всякого смысла, значит, армия и флот утратили былое назначение, а бедным, преданным службе генералам и адмиралам суждено остаться без работы. У компаний по производству ракет не сохранится прежний идеальный рынок, где все товары предназначены для однократного использования и потому не конкурируют с продукцией, которую только предстоит изготовить. Духовенство лишится того энтузиазма, того восторга, которые всегда сопутствуют крестовым походам. Если коротко, когда имеется военная игра, предусматривающая такое развитие событий, найдется много тех, кто забудет о возможных последствиях, станет требовать свои двести фунтов стерлингов и не спохватится уточнить, что сын должен остаться в живых.

Всегда возможно просить о чем-то, отличном от нашего истинного желания, а потому такая возможность представляется чрезвычайно серьезной в тех случаях, когда процесс, которым мы добиваемся исполнения желаний, является косвенным, а степень, в которой наши желания осуществляются, не ясна до самого конца. Обычно мы осознаем свои желания — в той мере, в какой они вообще осознаются — через процесс обратной связи, посредством которого мы сравниваем степень достижения промежуточных целей с нашими предвкушениями. Здесь обратная связь проходит через нас, и мы способны отступить, пока не стало слишком поздно. Если механизм обратной связи встроить в машину, действия которой не поддаются контролю до получения конечного результата, вероятность катастрофы чрезвычайно возрастает. Мне категорически не хотелось бы участвовать в первом испытании автомобиля, управляемого фотоэлектрическим устройством обратной связи, не будь в нем какой-то рукоятки, при помощи которой я мог бы перехватить управление, если замечу, что автомобиль грозит врезаться в дерево.

Люди с умственным складом машинопоклонников часто питают иллюзию, будто высокоавтоматизированный мир станет предъявлять меньше требований к человеческой изобретательности, нежели мир сегодняшний, и заберет у нас необходимость в решении трудных задач — как тот римский раб, он же греческий философ, который думал за своего господина[26]. Это явное заблуждение. Механизм, ориентированный на достижение цели, совсем не обязательно будет стремиться к реализации наших целей, если только мы не сконструируем его соответственно — а при таком конструировании мы должны предвидеть все стадии процесса, для управления которым создается механизм; не следует уповать на робкие попытки прогнозирования, полезные лишь до определенной точки, за которой понадобятся, при возникновении новых затруднений, новые прогнозы. Расплата за ошибки прогнозирования велика уже сегодня и значительно возрастет, когда автоматизация осуществится в полной мере.