Корпорация «Бог и голем»

К счастью для него, рыбак, судя по всему, не был обделен смекалкой, а также отлично умел льстить. Он сыграл на тщеславии джинна и убедил того показать, как такое огромное существо может поместиться в столь малом сосуде. Джинн забрался обратно в кувшин, а рыбак тут же закупорил сосуд, кинул его в море и поздравил себя со спасением от смерти. С тех пор он жил счастливо.

В других историях встреча главного героя с волшебством происходит уже не по воле случая; в итоге он то оказывается на краю гибели, а то и вовсе терпит полный крах. Юный прислужник из стихотворения Гете «Ученик чародея» чистит волшебную одежду своего хозяина, подметает пол и носит воду; однажды чародей убывает, поручив слуге наполнить бочку водой. В избытке наделенный склонностью к лени, каковая является истинной матерью изобретательности — напомню, что именно лень побудила мальчишку, который присматривал за машиной Ньюкомена[21], привязать веревку от крана к противовесу, и так был изобретен первый автоматический клапан, — паренек припомнил обрывки заклинаний, подслушанные у хозяина, и попытался заставить веник носить воду в бочку. С этим заданием веник справился послушно и эффективно. Но когда вода начала переливаться через край бочки, ученик вдруг сообразил, что не помнит заклинание, которым чародей укрощал веник. Паренек едва не утонул, но тут вернулся «чародей маститый», который изрек нужные слова власти, а затем как следует выбранил ученика[22].

Даже здесь окончательную катастрофу удается предотвратить лишь посредством deus ex machina[23]. Уильям У. Джейкобс, английский писатель начала XX века, довел этот принцип до очевидного и трагичного логического конца в повести «Обезьянья лапка», классическом образце «литературы ужасов».

Английская рабочая семья, о которой идет речь, ужинает на кухне. Потом сын уходит на фабрику, а старики-родители слушают рассказы гостя, старшего сержанта, возвратившегося со службы в Индии. Сержант рассуждает об индийской магии и показывает хозяевам высушенную обезьянью лапку; по его словам, это талисман, зачарованный индийским факиром на исполнение трех желаний каждого из трех последовательных владельцев. Мол, так факир хотел показать, что судьба повелевает человеком.

Сержант добавляет, что не знает первых двух желаний первого владельца талисмана, но знает, что его последним желанием была смерть. Сам он второй владелец зачарованного предмета, но его опыт слишком страшен, чтобы об этом рассказывать. Он бросает лапку в огонь, но хозяин не дает той сгореть и, игнорируя предостережения сержанта, желает получить двести фунтов стерлингов.

Вскоре раздается стук в дверь. Входит очень представительный господин из той компании, в которой работает сын хозяев. Настолько мягко, насколько способен, он сообщает, что их сын погиб в результате несчастного случая на производстве. Компания не признает себя ответственной за случившееся, но выражает свое сочувствие и предлагает пособие в размере двухсот фунтов стерлингов.

Старики вне себя от горя; по предложению матери они просят талисман вернуть им сына. К тому времени снаружи успело стемнеть, пала ночь, ветреная и непроглядная. В дверь снова стучат. Родители каким-то образом понимают, что это их сын, но не во плоти. История заканчивается третьим желанием — чтобы призрак удалился.

Основной темой всех этих историй служит опасность магии. По всей видимости, эта опасность объясняется тем, что магические действия реализуются в высшей степени буквально; если магия вообще способна даровать что-либо, она дарует именно то, что просишь, а не то, что подразумевал или что на самом деле хотел попросить. Если просишь двести фунтов стерлингов и не уточняешь, что деньги ценой жизни твоего сына тебе не нужны, ты получишь свои двести фунтов — а уж выживет твой сын или умрет, остается лишь догадываться.

Магия автоматизации, в особенности такая магия автоматизации, которая опирается на самообучение устройств, выглядит столь же буквальной. Если играешь в игру по определенным правилам и настраиваешь машину играть на победу, результат будет достигнут (если его возможно достичь в принципе), но машина не будет обращать ни малейшего внимания на любые соображения, помимо соблюдения правил, ведущих к победе. В военной игре с некоторым конвенциональным условием победы к этой победе станут стремиться любой ценой, даже за счет истребления собственных сил, если только необходимость выживания не сформулирована недвусмысленно в определении победы, которое задается машине.

Это не просто невинный словесный парадокс. Я совершенно точно не смогу найти доводов, чтобы опровергнуть предположение о том, будто Россия и США, поодиночке или вместе, изучают возможность применения машин, а именно обучающихся машин, для определения момента, когда лучше нажать кнопку запуска атомной бомбы, этого ultima ratio[24] современного мира.