Четыре путешествия на машине времени (Научная фантастика и ее предвидения)

Антропоморфизм всей затеи выявился достаточно скоро. Несмотря на бурный прогресс молодой кибернетики (а то было время ее буйного расцвета, безудержных претензий и несбыточных грез…) роботы научной фантастики имели все-таки мало общего с проблематикой "умных машин", о которых всерьез заговорили ученые. Оказалось, что кибернетика шла какими-то своими тропами, а фантастическая робоэволюция — своими. И родословную НФ-роботов следует вести не от идей кибернетиков, а от старого знакомого — глиняного Голема, лишь соответствующим образом заговоренного. Металлические же (или полимерные) "одежды" по моде XX века не скрывали, да и не могли скрыть главного — выстраданную мечту человека о совершенстве.

После внедрения Трех Законов в научно-фантастическое производство количество роботов-злодеев заметно поубавилось. Многие теперь уже видели в Законах некий нравственный императив для людей.

Так что никакой "этики для роботов" создано не было и, вероятно, не будет. Этика создается для людей — и только для них.

Произнесите про себя: "Я, робот" — и мысленно отметьте первое, что придет на ум. Скорее всего, это будут Три Закона. А потом? Думается, все-таки не роботы, а в первую очередь "человеческие" герои во главе с Сьюзен Кельвин. О людях писал Азимов. Об идеальных людях, которыми грезили писатели во все времена, — добрых, гуманных и никогда не ошибающихся…

Вот что писал сам творец роботехники в одном из рассказов цикла "Я, робот": "Три Закона роботехники совпадают с основными принципами большинства этических систем, существующих на Земле. Конечно, каждый человек наделен инстинктом самосохранения. У робота это — Третий Закон. Каждый "порядочный" человек, чувствующий свою ответственность перед обществом, подчиняется определенным авторитетам… Он исполняет законы, следует обычаям, соблюдает приличия, даже если они лишают его некоторых удобств или подвергают опасности. А у роботов это — Второй Закон, Кроме того, предполагается, что каждый "хороший" человек должен любить своих ближних, как себя самого, защищать своих товарищей, рисковать своей жизнью ради других. Это у робота — Первый Закон".

Ирония Азимова в адрес так называемых "хороших" и "порядочных" людей очевидна; что же касается роботов, то создатель верил в своих детищ. Пусть хоть роботы будут человечны!

Со страниц книг двинулись в мир целые легионы механической "армии спасения": заботливые няньки, вышколенная домашняя прислуга, стражи порядка, уборщики, повара, гиды, учителя, дублеры космонавтов… Роботы строящие, охраняющие, воспитывающие. Некоторые, правда, по старинке бунтовали, но то были явления эпизодические, от вселенского кошмара, который рисовался авторам ранней фантастики, не осталось и следа.

Но скоро обозначился принципиальный водораздел между механизмами (например, роботом — уборщиком мусора) и подобиями людей (вспомним робота-мэра Байерли из рассказа Азимова "Улики"). То есть андроидами… И как только дело дошло до человекоподобных роботов — не по внешности, а по поведению и уровню интеллекта, — пришли первые сомнения.

Пока речь шла о механизмах, исправно выполняющих возложенные на них функции. Три Закона служили безошибочно. А возможные парадоксы последовательно снимались Азимовым и его коллегами по перу. Но стоило только прозвучать словам "искусственный разум", как выяснилось, что Законы вовсе не универсальны. А в отдельных случаях — и вовсе неприменимы.

Потому что никаких разумных роботов в действительности создано не было, вместо них загримированные люди-актеры разыгрывали свои, истинно человеческие драмы. Только одной религией стало больше: ведь что такое эти Три Закона, как не укороченные по моде века христианские десять заповедей![30] Религия, в какие бы одежды она ни рядилась, уже не раз претендовала на роль этического спасителя — и терпела поражение на этом поприще не единожды.

Технократическая этика Азимова оказалась хороша для создания идеальных механизмов — сложнее обстояло дело с "созданием" идеальных людей. Действительно, стоит задуматься над вопросом: не слишком ли велико насилие над такой многомерной системой, как человек? Попытка замкнуть все богатство его возможных намерений и поступков в каркас жестких постулатов — это значит попытаться ограничить бесконечно сложное и до конца не понятое конечным числом рецептов поведение… Ведь мы еще так мало знаем о себе самих — зато опыт человеческой истории многому нас научил (ибо сказано было "не убий", но убивали, убивали преспокойно с этой заповедью на устах!).

Все это отнюдь не праздные вопросы и не выражение какого-то "этического нигилизма". Просто сомнительно, чтобы задача создания идеального человека решалась столь примитивно, путем наложения на реального человека запретов.