НФ: Альманах научной фантастики. Выпуск 23

Но затем начались новые трудности. У АЯКСА и ГАННА, опытных образцов 78-го и 79-го поколения, уже признанных достойными облечься в металл, появилась какая-то неуверенность в действиях, своего рода машинный невроз. Различие между прежними и новыми машинами в принципе сводилось к различию между насекомым и человеком. Насекомое приходит на свет "запрограммированным до конца" — посредством инстинктов, которым оно подчиняется без рассуждений. Человек же должен обучаться правильному поведению, а это обучение имеет эмансипирующий эффект: руководствуясь собственной волей и знаниями, человек может поменять программу своего поведения.

Компьютерам до 20-го поколения включительно было свойственно «насекомообразное» поведение: они не могли подвергать сомнению, а тем более преобразовывать свои программы. Программист «пропитывал» машину знаниями так, как Эволюция «пропитывает» насекомое инстинктом. Уже в XX веке много говорилось о самопрограммировании, но тогда это были пустые фантазии. Между тем сконструировать "Абсолютного Победителя" было невозможно без создания самосовершенствующегося Разума; АЯКС стал промежуточной формой, и лишь ГИЛЬГАМЕШ вышел на нужный интеллектуальный уровень — на "орбиту психоэволюции".

Обучение компьютера 80-го поколения гораздо больше напоминало воспитание ребенка, чем классическое программирование цифровой машины. Но кроме огромного количества общих и специальных сведений компьютеру надлежало «привить» некие нерушимые ценности, которые служили бы ему компасом. Это были абстракции высшего порядка, такие, как благо государства (государственный интерес), идеологические принципы, воплощенные в Конституции США, кодексы поведения, обязанность безусловно подчиняться решениям президента и т. п. Чтобы застраховать систему от "этических вывихов", от "измены интересам страны", машину учили принципам этики не так, как учат людей. Этический кодекс не вводился в память; нормы послушания и подчинения внедрялись в структуру машины так, как это делает природная Эволюция, действующая через сферу инстинктивных влечений. Человек, как известно, может менять мировоззрение — но НЕ МОЖЕТ уничтожить в себе элементарные влечения (например, половое) простым усилием воли. Машины наделили интеллектуальной свободой, приковав их, однако, к фундаменту заранее заданных ценностей.

На XXI Панамериканском конгрессе психоников профессор Элдон Патч представил доклад, в котором утверждалось, что компьютер, даже "пропитанный ценностями", может преодолеть т. н. аксиологический порог, а значит, поставить под сомнение любой привитый ему принцип: для такого компьютера уже нет не подлежащих обсуждению ценностей. Он может опрокинуть любые императивы, если не прямо, то окольным путем. Будучи опубликован, доклад Патча вызвал брожение в университетских кругах и новую волну нападок на "Абсолютного Победителя" и его патрона — НСИ; но на политику НСИ все это никакого влияния не оказало.

Те, кто ее разрабатывал, с предубеждением относились к американским психоникам, считая их подверженными леволиберальным влияниям. Поэтому в официальных заявлениях НСИ — и представителя Белого дома по связям с прессой — о тезисах Патча говорилось в пренебрежительном тоне. Не обошлось без кампании по его дискредитации. Утверждения Патча ставили на одну доску с иррациональными страхами и предрассудками, множество которых будоражило общество того времени. Впрочем, его брошюра не удостоилась такой известности, какую снискал бестселлер социолога Э.Лики "Cybernetics Death Chamber of Civilisation" ["Кибернетика — камера смерти цивилизации" (англ.)]. Лики утверждал, что "абсолютный стратег" подчинит себе все человечество сам или сговорившись с аналогичным компьютером русских и к власти придет "электронный дуумвират".

Подобные опасения, не чуждые и немалой части прессы, опровергались, однако, вводом в строй новых моделей, выдерживавших проверку на эффективность. В 2019 году по заказу правительства был построен "нравственно безупречный" компьютер — ЭТОР-БИС, разработанный Институтом психонической динамики (Иллинойс); после пуска в ход он продемонстрировал полную аксиологическую стабильность и невосприимчивость к тестам на "диверсионное разложение". Поэтому когда уже в следующем году на пост Верховного координатора мозгового треста при Белом доме был назначен первый компьютер из серии ГОЛЕМОВ (GOLEM — General Operator, Longrange, Ethically Stabilized, Multimodelling) [генеральный управитель, дальномыслящий, этически стабилизированный, мультимоделирующий (англ.)] это не повлекло за собой ни массовых протестов, ни демонстраций.