Что такое фантастика?

Поэтому робот-двойник не остается в литературе в роли простого дублера. Пока он только дополняет хозяина и изготовлен лишь для того, чтобы стоять в очереди за зарплатой, над ним можно смеяться. Но, приобретая многофункциональность хозяина, он заодно принимает на себя давнюю функцию двойника. Он теперь не просто копия — он перевернутое зеркальное отражение. Он служит поляризации заключенных в человеке добра и зла. Оставляя своей «матрице» добро, он творит зло. Он теперь наследник угнездившихся глубоко в подсознании представлений о «чуринге» — человеческом изображении, над которым ворожил злой колдун, он вбирает в себя психологический комплекс, подаренный ему когда-то романтиками. Он становится мистером Хайдом при стивенсоновском мистере Джекиле.

Создать робота, равного человеку по силе, не значит создать доброго послушного робота, — напротив.

Остается тот, кто сильней человека. Его ни к чему нельзя принудить. С ним можно только договориться. Но вести переговоры он соглашается далеко не со всяким — лишь с человеком. Он не станет прислуживать менее сложному роботу, сколько б тот ни кричал, что он человек. Он заставит его услуживать себе самому.

Ради человека или ради себя пришла в мир машина?

Робот и человек выясняют сейчас между собой этот вопрос. Вряд ли робот когда-либо откажется служить человеку. Но если он не обнаружит вокруг себя людей, он будет служить самому себе.

Лишь в этом случае.

Человек проявляется по отношению к роботу как существо социальное. Смотря по тому, в какого рода социальную систему включит он робота, тот окажется его помощником или безжалостным конкурентом. И те, кто пожелают использовать робота в пользу одной части человечества против другой, одного социального слоя против другого, неизбежно направят его против всего человечества.

Техника не злоумышляет против человека. «Мнение, что думающие машины должны быть злобными существами, враждебными человеку, настолько абсурдно, что вряд ли стоит тратить силы на его опровержение, — справедливо пишет А. Кларк. — Те, кто изображает машины как активных врагов, лишь проецируют свои собственные доставшиеся от джунглей агрессивные инстинкты в мир, где их попросту не существует. Чем выше разум, тем сильнее стремление к сотрудничеству»[221].

Конечно, человек может утратить контроль над техникой. Он и сейчас порою его теряет.

Всякое экономическое потрясение — свидетельство того, что объективные тенденции развития производства возобладали над способностью человека направлять его и регулировать. В дальнейшем же подобный разлад между человеком и машиной может принять более привычно-драматическую форму.

Человек, создавая «думающие машины», старается сделать их автономными, способными к самостоятельным поискам и решениям. Тем самым он делает их способными к конфликту с ним. Но размеры таких конфликтов можно заранее ограничить потребностями творческого развития.

У Азимова (в сб. «Я робот» и многих других произведениях) роботы подчинены «трем законам роботехники»: «1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. 2. Робот должен повиноваться командам, которые ему дает человек, кроме тех случаев, когда эти команды противоречат Первому закону. 3. Робот должен заботиться о своей безопасности, поскольку это не противоречит Первому и Второму законам». И в самом деле, что мешает поставить технике такие пределы?

Обвинение, выдвинутое против техники, всегда оказывается в конечном счете обвинением против социальных условий, помешавших человеку стать «царем техники», как когда-то он стал «царем природы».

Техника в любых своих формах — антропоморфных и обезличенных — не злоумышляет против людей. Если уж наделять ее человеческими чувствами, она скорее намерена им помочь. Она только не знает сама, как это сделать. Это ей сообщают люди. И вот, помогая людям расщепить атом, она помогает им себя уничтожить. Ее помощь пошла им во вред. Она помогает людям получить столько вещей, сколько они захотят. Но и это идет им во вред. Она все делает, чтоб привести их к благоденствию. Самому полному, какое только возможно.

Но не окажется ли самое полное благоденствие самой большой опасностью, которая грозит человечеству? Той опасностью, которая заслонена пока опасностями более близкими, но со временем может предстать огромная, грозная, во весь свой рост. Опасностью, страшной тем, что в ней труднее всего увидеть опасность?

Это, впрочем, подводит нас уже к другому вопросу — вопросу об утопии.

Глава IX. Фантастика, утопия, антиутопия

Опасности благоденствия возникают до того, как пришло самое благоденствие, — на очень дальних к нему подступах.

О главной из них говорят в последние годы особенно много. Речь идет об опасности перенаселения Земли.