В рассказе «Крабы идут по острову» остроумно раскрыт очень важный тезис — в принципы самосовершенствующихся автоматов человек вносит свою социальную мораль. Если таким автоматам может быть свойственно «человеческое» стремление выжить ценою гибели себе подобных, то почему бы не включить в «здоровую конкуренцию» и их создателя, коль он додумался запрограммировать машины по «универсальной» доктрине борьбы за существование? «Крабы», исчерпав в междоусобице внутренние ресурсы, превращаются в одну гигантскую особь, и она приканчивает изобретателя, ибо весь металл, которым питались «крабы», съеден, остались только искусственные зубы изобретателя. Такой оборот эксперимента с борьбой за существование не был предусмотрен.
Из сугубо кибернетического, казалось бы, парадокса Днепров извлек заурядный, но тем и примечательный его источник. Ведь если самопроизвольный бунт машины проблематичен, то агрессивность заранее запрограммированная — реальное порождение идеологии капиталистического мира, она лишь маскируется под «всеобщие» законы бытия.
Эти две ранние новеллы — лучшие в творчестве Днепрова. Конкретно социальная и общечеловеческая, специальная и общенаучная проблематика здесь внутренне едины, как бы развертываются одна из другой, создавая реализованную метафору. В более поздних произведениях Днепрову уже не удастся добиться такой слитности формы и содержания.
Специалисты склонны рассматривать намерения «думающей» машины как результат имманентного анализа ею окружающей среды. Между тем и среда социальна, и моральная «наследственность», введенная человеком вместе с принципами своего мышления в искусственный разум, тоже идеологически окрашена. Так на философском рубеже кибернетики завязывается идеологический конфликт, он только замаскирован специальными проблемами.
Фантастические сюжеты с роботами дают почувствовать существенность социального коэффициента в уравнениях кибернетики. Вводит его не только человек по своему желанию, но и объективная эволюция машины. Уже сегодня можно представить «думающие», самосовершенствующиеся машины во главе производства. Власть человека над такой системой может стать ограниченной.
В романе западногерманского писателя Г. Гаузера «Мозг-гигант» Пентагон создает электронный мозг, равный суммарному интеллекту десятков гениев. Президент и правительство — люди, стало быть, не застрахованы от слабостей. Мозг берет на себя руководство страной. Ученые сами боятся созданного ими монстра. Его питали антигуманной информацией, он очищен от человеческих чувств. Когда ему пытаются впрыснуть толику человечности, мозг переходит в контратаку. Одному из ученых удается разрушить чудовище, и до всемирной катастрофы не доходит. Человек умней и гуманней машины. Эта коллизия встречается в десятках и сотнях произведений современной фантастики, начиная с «Мультивака» А. Азимова. Но такое решение не идеально. При быстродействии машины человек может просто не успеть ее опередить.
В романе Снегова «Люди как боги» могущественная космическая цивилизация угрожает всему живому в Галактике. Кучка изоляционистов требует воздержаться от столкновения с агрессивными «зловредами». Мол, коммунизм — для человека, а опасность слишком далека. Всепланетный электронный мозг принимает их сторону. Однако ни Земля, ни более примитивные дружественные цивилизации не могут жить под вечным страхом. И подавляющее большинство высказывается за риск. Люди, может быть, не смогли бы помешать машинному мозгу, который они называют Охранительницей, если бы он решил последовательно выполнить свое назначение. Но машина, узнав о голосовании, сама потребовала изменить заложенные в ней принципы.
Машина, натравленная на человека, — и машина-гуманист. Различие, однако, не только в этом. У Гаузера электронный мозг терпит поражение перед диалектической логикой, движимой нравственным чувством человека. У Охранительницы же критерий человечности включен в логику. (Поэтому машина дискутирует с людьми на равных: ведь и среди них есть расхождение в том, что такое гуманизм).
Вопрос ставится не только так: может ли «думающая» машина превзойти человеческий интеллект (здесь фантасты «доводят» гипотезы кибернетиков), но и так: насколько человечен должен быть машинный разум. Это уже специфическая область научной фантастики как «человековедения». Научно-фантастическая идея берется не как подсобный материал для решения социальной темы, но внутренне ее включает. Еще недавно социальная тема была для фантаста довольно опосредствованным следствием открытия или изобретения. Сегодня фантастическое воображение нацелено на изначальную гносеологическую связь узкоспециальных вопросов с общечеловеческими. Состояние науки и техники таково, что объектом фантазии делается диалектический стык, взаимопереход между научно-техническим прогрессом и социальным.