Игрек

— Боюсь, что истина заключается несколько в ином. Мы должны признать, что, по мере того как роботы становятся всё умнее, их всё больше волнует собственное благополучие. Повторяю, собственное, а не наше с вами. А значит, мы должны постоянно совершенствовать наши системы безопасности. Иначе говоря, тот, кто создает роботов, и должен отвечать за их поведение.

Журналист подался вперед.

— Вы хотите сказать, что в агрессивном поведении БДЦ-4 виновата Корпорация Жизни?

— Без сомнения, — твердо ответил профессор. — Это печальная история о честолюбии и гордыне.

Он умолк и снова вперил взгляд на ковер.

Похоже, ведущий не знал, как продолжать разговор. Он покосился на небольшой экран у себя на столе.

— Корпорация Жизни только что назначила вас главным робототехником. Однако, насколько я понимаю, в прошлом вы уже работали на Корпорацию. Что вы можете сказать нам про роботов серии БДЦ?

Профессор поднял голову.

— Я принимал участие в создании первого поколения БДЦ, но мне не нравились методы моих коллег. Видите ли, обычные роботы напичканы всевозможной информацией о мире, но они не обладают способностью понимать, анализировать ее. Я же глубоко убежден, что, если наделить робота способностью испытывать эмоции, он будет доходить до всего собственным умом, как это делают дети, а заодно научится сопереживать другим, различать, что хорошо, а что плохо. У него, если можно так выразиться, появится совесть.

Но мои коллеги были слишком нетерпеливы, чтобы идти этим долгим и, признаюсь, тернистым путем. Кроме того, они сомневались, что робот захочет быть хорошим. Вместо этого они задались вопросом: «А что будет, если передать роботу жизненный опыт конкретного человека?» Такого робота, считали они, не надо будет специально программировать — он в одно мгновение сам узнает, как устроен мир.

Ведущий открыл было рот, собираясь задать очередной вопрос, но профессор был так взволнован, что не дал ему вставить и слова.

— Так вот. Образно выражаясь, в человеческом мозгу существуют специальные отделы, где хранятся воспоминания. Не стану вдаваться в подробности. Просто представьте себе, что воспоминания эти возможно скопировать и поместить в мозг робота. Таким образом, у этого робота будут ваши воспоминания, ваши вкусы, ваше хобби, он будет любить ту же музыку, что и вы, и так далее. Именно это и проделали мои коллеги.

На этот раз ведущий не смог сдержаться.

— Вы хотите сказать, что роботам пересаживали человеческий мозг?! — вскричал он.

— Нет. Во всяком случае, не совсем, — ответил профессор. — Во-первых, человеческий мозг — это не только воспоминания. А во-вторых, роботам не пересаживали даже часть мозга. Ученые Корпорации лишь скопировали электрохимические свойства определенных участков серого вещества. Разумеется, все процедуры выполнялись на мертвых людях, поскольку никто не знал, насколько это опасно для человеческого организма.

— На мертвых?! — ахнул журналист. Он бросил быстрый взгляд на экран на столе, словно ожидая указаний от невидимого руководства.

— Знаю, это звучит несколько шокирующе, но вспомните: уже в прошлом веке люди начали завещать свои органы медицине — для пересадки больным. А некоторые завещали свой мозг, чтобы ученые могли проводить на нём медицинские исследования. Мои коллеги считали, что осуществляемая ими процедура ничем не отличается, скажем, от пересадки почки. И даже еще более безвредна, поскольку для этого не требуется операции.

— А что по этому поводу думали вы?

— Я предлагал устроить общественное обсуждение этого вопроса, но Корпорация Жизни считала, что люди еще не готовы узнать об этом. — Он сокрушенно покачал головой. — Тогда я ушел и занялся собственными исследованиями.

— Вы хотите сказать, что, разрабатывая БДЦ-4, Корпорация Жизни держала свои методы в тайне?

— Именно, — подтвердил профессор.

Он взял со стола стакан и сделал большой глоток. В баре отеля стояла мертвая тишина. Все затаили дыхание.

— Так вот почему БДЦ-4 так хорошо понимают людей! — сказал ведущий.

— Да. Потому что они наделены человеческими воспоминаниями. Они смотрят на мир нашими глазами.

— Тогда почему они начали угрожать нам? Мы слышали о взятых заложниках…

— Как правило, программируя роботов, ученые задают им определенные правила поведения, — пояснил профессор. — Например, все мы слышали о законе, согласно которому роботы не могут причинить вред людям. Но мои коллеги считали, что, поскольку БДЦ-4 обладают человеческими воспоминаниями, они и так будут знать, что хорошо, а что плохо. Поэтому робототехники Корпорации не стали загружать в БДЦ-4 подобные программы — сочли, что это необязательно.

Профессор Огден поднес руку ко лбу, словно пытаясь отогнать мучительные воспоминания, а потом продолжил:

— По сути дела, БДЦ-4 — всего лишь человеческая память, запертая в теле робота. Так стоит ли удивляться, что они ведут себя далеко не лучшим образом? Они относятся к людям так агрессивно потому, что пытаются обрести утраченный мир — мир, в котором они сами были людьми.

Ведущий нахмурился.

— То есть, они хотят оживить свои воспоминания?

— Именно.