В 1958 году американский автор Артур Хэдли в романе "Веселая повозка" вполне мог себе позволить поиронизировать над компьютером, который вознамерился стать президентом Соединенных Штатов; но уже позже о властолюбивых амбициях "электронных мозгов" писали без тени улыбки. Тревога росла еще и оттого, что в данном случае антагонизм человека и машины не сводился к лежащей на поверхности борьбе за власть — возникал конфликт совсем иного порядка.
Это уже не война людей и роботов, а столкновение двух непохожих типов мышления. Компьютеры… что-то бесконечно далекое, полярное по отношению к человеку. Враждебны ли они, агрессивны, властолюбивы? Не всегда. Но бесчеловечны — по определению.
Безусловно, самый яркий образ — это электронный мозг ХАЛ — 9000 из знаменитого фильма Стэнли Кубрика (и, соответственно, романа Артура Кларка) "2001: космическая одиссея". Беззлобный злодей (в фильме он даже говорит мягким, почти задушевным голосом — так уж постарались конструкторы) пошел на хладнокровное убийство человека отнюдь не вследствие бунтарского нрава и каких-то демонических "франкенштейновых" страстей. Просто компьютеру показалось, что люди на борту космического корабля ведут себя неразумно, например замышляют отключить ХАЛ совсем. И ХАЛ принимает меры предосторожности. Он искренне "хочет как лучше", беда только, что логика, система ценностей и установки компьютера кардинально отличаются от человеческих.
И все же к какому бы исходу не приводил конфликт человека и машины, трезвомыслящие фантасты солидарны в одном: вины на механических помощниках человека нет. Да и само понятие "вины" — очень уж человеческое. Виноват в первую очередь он сам, слишком понадеявшийся на творение рук своих.
В злой пародии на технократическую утопию — романе "Рояль механический" (1952, в русском переводе — "Утопия-14") Курт Воннегут уже ясно расставил все акценты. Вовсе не электронный супермозг ЭПИКАК-XIV — так и хочется сказать: Его Величество Эпикак Четырнадцатый! — захватил власть над людьми. Те сами ее отдали, причем добровольно. В придачу к тягостным обязанностям — думать, выбирать, принимать решения. Воннегут хлестко, беспощадно набрасывает приметы мира, где трудовой деятельностью заняты всего 10 процентов населения, а технократическая элита превратилась по сути в жреческую касту, прислуживающую новоявленному божеству.
Роман Воннегута — не обвинение компьютеру, разящие сатирические стрелы предназначены скорее для "своих" же… Ведь при всей своей невообразимой сложности ЭПИКАК начисто лишен таких качеств, как жажда власти, эгоизм, зависть. И хотя на сцене вроде бы вновь мелькнула оскаленная пасть Машины из "Метрополиса", теперь оскал уже не тот: при виде обленившегося, деградировавшего человечества Машина кривится в презрительной усмешке…
В цикле произведений о вымышленном кибернетизированном государстве Модеран американский писатель Дэвид Банч рисует общество, граждане которого вовсе не вытесняются и не закабаляются машинами просто потому, что сами неотвратимо превращаются в механизмы, элементарные винтики более сложной машины! Вполне подойдут на роль биореле или биотранзисторов гигантского компьютера и члены общества, изображенного советским писателем Севером Гансовским в повести "Три шага к опасности". Они живут в полностью изолированной от внешнего мира "нише", и все их мысли, желания и поступки предусмотрительно включены в программу функционирования государства-компьютера.
Что их ждет в конце?
Из-за кулис слышится реплика Станислава Лема: "Если компьютер создан для регулирования жизни общества, то кто будет регулировать этот компьютер?" Как он умеет задавать вопросы!..
В своих ответах писатели-фантасты единодушны: судьба общества, переложившего полностью задачу самоуправления на машину, предрешена — его ждет неизбежное духовное вырождение. Ведь с точки зрения компьютера, запрограммированного на поддержание общественного гомеостаза, все гениальные или хотя бы просто творчески одаренные члены общества, все "неконформные" его элементы представляют потенциальную опасность программе
, ибо способны на непредвиденные мысли и поступки. И электронный контролер начнет изыскивать возможность устранения потенциальных нарушителей порядка…Так, вероятно, поступит компьютер, который будет действовать по раз и навсегда вложенной в него программе. Ну, а если киберсистема в своем развитии эволюционирует до появления разума
, тогда ей вообще, по-видимому, больше дела не будет до людей. И не станет она задумываться, вмешиваясь в человеческие проблемы, — задумываемся ли мы, нечаянно наступая на божью коровку?Впрочем, еще до того, как может возникнуть опасность электронной тирании, новейшими достижениями кибернетики не преминут воспользоваться вполне реальные, из плоти и крови, претенденты на трон. В наше время одному управлять сложнейшим государственным механизмом — это значит неустанно следить, предотвращать, искоренять… А не нуждающийся в отдыхе электронный мозг идеально подходит на традиционную в научной фантастике роль Большого Брата!