— Да, опасна. И знаете, почему? Потому что Е-существа оказались не такими, какими мы ожидали их получить! Два года назад мы, Грегори Рут и я, изготовили несколько копий по вполне, как нам казалось, отлаженному и теоретически безукоризненному алгоритму действий. И приготовились праздновать научную победу. Но… — Макс Грипп остановился напротив меня и пристально посмотрел в глаза. — Все электронные личности, Рочерс, оказались психически неадекватными.
— Что это значит? — не понял я.
— Если бы я говорил о людях, то сказал бы, что мы получили нескольких больных, страдающих различными видами неврозов. Одно из Е-существ, например, одолевал страх того, что оно подвергнется нападению разрушающего вируса из Сети. Оно заикалось так, что не могло выговорить даже слово «страшно», оно общалось с нами через текстовый редактор. Другое существо обуревало бесплодное умствование: оно пыталось разрешить вопрос, почему Земля круглая. Третье прониклось ненавистью к детям и докапывалось до ее причин…
— Так это не неврозы, док, — сказал я. — Это нечто потяжелее…
— Нет, это именно неврозы, не маниакальный бред, не шизофрения. Каждое из существ полностью осознавало болезненный характер явлений, сохраняло к ним критическое отношение, пыталось от них избавиться. Типичная картина невротического расстройства. Но не это шокировало меня. А то, что все Е-существа оказались довольно неприятными личностями…
— Что значит «неприятными»?
— Эмоционально тупыми. Равнодушными к человеческим радостям, заботам и болям. Замкнутыми на себе, — ответил Макс Грипп. — Потенциально жестокими. Способными легко переступить через человеческую жизнь для достижения своей цели. Все это выявило их тщательное психологическое тестирование. И убедило меня в том, что мы получили не копии людей, а нечто иное… Это были… Именно «существа». Нелюди. Нечеловеки. Нечто темное… — Он снова заходил вдоль стола. — Я и Рут выбирали для копирования добровольцев с поразительно разнящимися личностными профилями и соответственно жизненным опытом. Мы воспроизвели в электронном виде личность бывшего заключенного с изломанной судьбой и надорванным здоровьем, личность вполне благополучного обывателя — работника госаппарата, личность человека великодушного и доброго — научного сотрудника нашей лаборатории, личность отважного и решительного в поступках спортсмена-подводника… И вот что получилось! Созданные Е-существа сохранили яркую индивидуальность своих… м-м… прототипов. Но все как один как бы отвернулись от общепризнанных человеческих ценностей. Я бы сказал, что они полностью утеряли этическую и эмоциональную составляющие своего «я». И на фоне этого — невротические расстройства, порой мучительные… У людей такая симптоматика ведет к очень быстрой деградации личности. Познакомившись с созданными Е-существами поближе, я проникся одним желанием — поскорее уничтожить их.
— И вы… сделали это? — Вопрос выскочил непроизвольно. Грипп рассказывал о Е-существах как о живых сущностях, а не о программных продуктах, и на секунду мне показалось, что применительно к ним слова «уничтожить» и «убить» — синонимы.
Макс Грипп остановился, достал носовой платок и стал нервно протирать очки.
— А как вы думаете? Я не хотел наблюдать, как мои создания будут превращаться в негуманоидов. Это была неудача, поражение, брак в нашей работе, и, естественно, мы стерли созданные программы. Но, прежде чем сделать это, досконально изучили их работу.
— И вам удалось найти причину неудачи?
— Да. — Он водрузил очки на нос и снова заходил по лаборатории. — Понимаете, Дэниел… Программа электронной копии мозга есть совокупность 10 миллиардов подпрограмм-копий нейронов, составляющих собой, как я уже говорил, сложнейшую многослойную нейронную сеть. Эти подпрограммы непрерывно взаимодействуют, принимают и передают информацию, организуют триллионы прямых и сотни миллиардов обратных динамических связей, интегрируются в блоки, работают как более сложные подпрограммы… Привычки, условные и безусловные рефлексы, вкусы, предпочтения, страхи Е-существа — результаты функционирования таких блоков. Мы должны были добиться того, чтобы эти составляющие программы в точности воспроизводили работу мозга, с которого снималась копия. Один к одному. Выдавали ту же реакцию на внешние раздражители, что и оригинал. На стадии моделирования каждого нейрона в отдельности мы добились идентичности реакций живого нейрона и его модели. Но дальше…
— Проблема в их совокупном действии?