Четки

— Только глупец или сумасшедший идет против тенденций. У меня нет склонности к самоубийству.

— И у меня, — признался Талинский. — Времена лидеров, идущих во главе толпы, давно прошли. Сейчас идеи генерируются из бункера в тылу.

— Из такого, как наш.

— Согласен.

— Видишь, я иду против себя, потому что хочу, чтобы система не допускала случаев, подобных моему. Нашим. Я хочу систему, в которой санкции неизбежны и не зависят от лотереи. Так было бы проще.

— Лотерея, о которой ты говоришь, — определитель нашей свободы.

— Дед, ты путаешь, свободу воли с приговором судьбы. Думаешь, что кидание камнями — это выражение индивидуальной свободы? Ну уж нет! Если идея ПО станет совершенной, кидание камней будет наказываться, независимо от результата. Наказание рассчитается статистически. Можешь кого-то убить, можешь и промахнуться. Нынешнее состояние способствует риску, потому что тот, кто кинул камень, может рассчитывать на то, что ни в кого не попадет. Таким образом, он надумывает вероятность, пробует воображать и увещевает себя тем, что избежит наказания. Ага! В мире идеальной гиперпревентивности наказание будет применено до того, как камень будет брошен. И никто не пострадает.

— Правила расчета ПО неизвестны. Неизвестны также и значения показателя. — Талинский откашлялся, маскируя другой тон голоса. — Можно попытаться вычислить, догадаться. Правила неясны, поэтому нельзя требовать от людей бездумно следовать им. Без ссылок на единый закон, гиперпревентивность потеряет моральную основу. Уже сейчас рассчитывается только вероятность, что кто-то кинет камень.

— Это возвращает нас к природе, неужели не видишь? Выживет тот, кто лучше всего приспособился к среде, созданной для нас g.A.I.a. Законы природы нигде не записаны, их нельзя вызубрить, нельзя обжаловать решение в высшей инстанции. Жаба, съеденная аистом, не будет жаловаться. В конце концов, ты знаешь правила: с воронами по-вороньи каркать. А знание закона только облегчает его обход. Знание следственных процедур помогает скрывать следы, а судебных — избегать наказания. Законы природы нельзя игнорировать, обойти, поменять. Тем более, нельзя избежать наказания. Идеальная система гиперпревентивности будет такой же. Мир без преступлений, можешь представить?

— То есть ты считаешь, что высшей целью g.A.I.a. должно стать исключительно благо общества? Я не буду напоминать, сколько уже было концепций осчастливливания людей…

— Речь не о благе людей, а о благе человечества. Пойми, баран, это две разные вещи. Мы живем в искусственной среде, то есть в этом Кольце, мы в одной телеге во всех Четках. Ошибка предыдущих попыток осчастливить человечество состоит в том, что это делали сами люди, испорченные чертами характера, собственными слабостями, вбитыми в голову культурными ограничениями. g.A.I.a. от этого свободна, и конечным результатом системы ПО должно стать благо общества.

— Почему не сама g.A.I.a., а? Она не справедливый бог, только один из игроков. Игрок и бог в одном лице. Судья игры, в которую сама играет. Извращение, ты так не считаешь?

— Нет, ее нельзя извратить, как нас. Она будет игроком какое-то время, пока не достигнет состояния идеальной абсолютной власти. Как только это наступит, ей уже не нужно будет заниматься собственной безопасностью — она поднимется над этой игрой и реализует настоящие цели.

— Послушай, старый хрыч, — Талинский сложил руки на груди, — сколько раз слышу о претворении идеалов в жизнь, столько раз и вижу братские могилы. Во время работы над Прометеем я анализировал деяния g.A.I.a. Нет, я и близко не подобрался к пониманию искусственного интеллекта. Я не понимал ее мотивов, не знал целей. Это сущность, вырвавшаяся из наших рук и переросшая нас на несколько порядков. В ней нет ничего человеческого, ничего из того, что много лет вкладывали в нее программисты.

— Ты реально не понимаешь? Ведь в этом и есть гарантия нашей безопасности! g.A.I.a. не может проявлять какие-либо человеческие качества, потому что среди них есть и отрицательные. И даже наши прекрасные возвышенные чувства могут быть убийственными! Нам нужно бесчеловечное управление цивилизацией. В космическом масштабе нет места чувствам. Остается математика.

Талинский с беспокойством осознал, что мысли профессора мало в чем сходятся с его собственными.

— И во имя этой математики членов Прометея предавали Элиминации? — спросил он. — Проект создали согласно закону, за который проголосовали почти единогласно. Она работала согласно закону, соблюдение которого является высшим заданием g.A.I.a. Однако проект перестал существовать, когда стало не хватать ключевых специалистов. Часть подвергли Элиминации, а часть сбежали из проекта, не желая разделить их судьбу.

— Успокойся, Прометей был угрозой для g.A.I.a. Она вынуждена была защищаться.

— То есть инстинкт выживания? Если у g.A.I.a. будет выбор: она или человечество, что же она выберет? Пойми, разумное существо должно развивать инстинкт самосохранения.