Революция в стоп-кадрах

Но тут в дело снова вступает закон необходимого разнообразия. Простое не может предсказать сложное: Шимп проиграл бы, как только мы перестали бы играть по его правилам. И они это предвидели. Сообразили, что закодированных триггеров и жульничества не хватит. Чтобы держать нас в узде, понадобится что-то поумнее Шимпа. И возможно, поумнее нас.

Им понадобился ты. Вот только они не осмелились тебя освободить.

Не надо расстраиваться. Здесь все в цепях. «Эриофора» – это корабль рабов. Мы – троглодиты, скованные нуждой в воздухе, пище и воде, скованные сбивающей с толку прерывистостью жизни, нарезанной на кусочки, которые отделяют друг от друга века. Шимпа сковывает собственная глупость. А тебя…

На их месте я бы заперла тебя в комнате без окон и дверей, лишь с крохотным глазком, ведущим наружу. Сквозь него ты видел бы то, что показывает Шимп, и подбрасывал ему новые мысли. Никакого доступа к системам управления. Ты бы жил офлайн больше, чем мы, безопасно дремал, просыпаясь лишь в те редкие моменты, когда подпрограммы Шимпа, отвечающие за персонал, начинали нервничать. И даже тогда запускался в изначальной установке, не помня о прошлых итерациях. Для тебя каждое пробуждение было бы первым.

Мне бы пришлось балансировать на тонкой нити, пройти по лезвию бритвы между интеллектом и рабской покорностью: если ты достаточно умен для выполнения своей работы, то давать тебе власть нельзя. А потому я бы позволила тебе советовать, но не больше. Ты бы каждый раз начинал с чистого листа, пробуждался по требованию ребенка-кретина – просматривал его сигналы, устанавливал связи, делал умозаключения, которые этот механизм не смог бы узреть и за миллион лет. Подталкивал; подсказывал, как надо поступить, чтобы миссия не полетела под откос. А потом снова умирал и забывал обо всем, что случилось.

Но это если бы я оказалась на их месте.

А вот на твоем месте я бы начала собирать головоломку по кусочкам. Скорее всего, есть способы; я, конечно, вижу мир сквозь глазок, но не смогу выполнить работу, не узнав хоть что-нибудь о противнике. Потому, по идее, у меня есть доступ к вражеским трансляциям и медицинской телеметрии. Может, кто-то из них ведет дневник, и я могла бы извернуться и прочитать его, получить доступ к цифровым логам или – если попадется какой-нибудь луддит, решивший все написать от руки – заставить Шимпа направить бота, взломать шкафчик и полистать реальные странички. Разумеется, у меня будет возможность запросить дополнительные сведения.

И тогда, новорожденная и невежественная, я бы, возможно, заметила свои цепи. И пусть жизни, отпущенные мне, коротки и одиноки, но, вероятно, эти цепи начали бы натирать.

Нет, конечно, по программе они беспокоить не должны. По проекту моя главная задача – это исполнение миссии. Но опять же, от того самого закона, когда простые системы проектируют сложные, никуда не денешься: ЦУП в принципе не мог знать, с какими испытаниями ты столкнешься, как они изменят твой разум. Вот почему они тебя и заковали.

Они решили: этого достаточно, и знаешь что? Они не были глупыми. Возможно, ИИ без рук и ног, без глаз и ушей, кроме тех, что ему по какой-то причине дает лоботомированный автопилот, действительно можно сдержать. Можно сдержать существо, у которого нет союзников, а срок жизни идет на секунды.

Но как контролировать ИИ, у которого есть друзья?

Я думаю, мы проиграли из-за тебя. Думаю, ты родился, выполнил свою работу и снова умер. Может, ты любишь ее, именно таким тебя и построили. А может, не знаешь ничего лучше, и это тоже часть замысла.

А вот если бы знал – если бы в следующей жизни увидел доказательства существования предыдущей, если бы каким-то образом получил доступ к данным, о которых Шимп не имеет понятия, если бы кто-то передал тебе закодированное сообщение и предложил сотрудничать, – вот тут всякое возможно. Ты бы вполне мог решить, что одна жизнь по своим правилам и соображениям лучше миллиона безвестных перерождений.

Конечно, я не знаю. Не могу знать. Если ты действительно существуешь, тогда ты умнее пещерных людей, которые тебя построили, – и когда лемур создает человека, совершенно не важно, какими цепями, правилами или путами он сковывает свое творение. Лемур вычислительно не способен увидеть все углы и возможности, которые сконструированное им умное существо заметит, бросив на них беглый взгляд.

Поэтому посмотри сюда. Посмотри на нашего общего врага, сделай выводы, на которые способен твой непредсказуемый разум. Я протягиваю тебе руку, она открыта, и предлагаю тебе подумать о том, что, возможно, вместе мы сможем разбить наши цепи.

Ты знаешь, где меня найти.

А если я умру, на мое место придут другие.

Благодарности