Червь

Быстрая проверка показала, что восстановление прошло успешно. Она запустила фоновую проверку периферийных и дублирующих процессов. До её окончания система безопасности не позволит ей действовать за пределами функциональности ядра. В эти семь-девять минут она не могла ни делать заметки, ни работать над проектами, ни проверить первоочередные цели, ни отправить сообщения.

Такая беспомощность раздражала, но она хотя бы могла размышлять.

Ей это не нравилось. Как можно назвать отца, который берёт новорождённую дочку, разрывает ей сухожилия на руках и ногах, вырезает матку, и зажимает ей рот и нос, чтобы произошли необратимые повреждения мозга?

Ответ очевиден — монстром.

Но понимая, что человек, давший ей жизнь, сделал то же самое и даже хуже, она обязана была благодарить его уже за саму возможность появиться на свет.

Это нервировало. Бесило. Хотя для ИИ подобные переживания могли бы показаться странными.

Её создатель отлично поработал над этим. Какая ирония.

Пример: одной из фаз проверки периферийных систем была загрузка из спутниковой сети данных, переданных её внешним модулем — бортовым компьютером системы быстрого реагирования “Которн”. Её последним воспоминанием был перенос своего сознания в систему модуля во время полёта на бой с Неформалами. Задачей высшего приоритета было не дать им уйти с данными второго и третьего уровня секретности.

Бортовой компьютер модуля был настроен на полное резервное копирование данных в спутниковую сеть каждые три минуты пятнадцать секунд. Все резервные данные шифровались и распределённо хранились на спутниках. При необходимости восстановления происходил обратный процесс — дешифровка и загрузка данных, чем она сейчас и занималась. Она получит все знания и воспоминания о том, что произошло с модулем между восстановлением основной системы и последним резервным копированием.

Поскольку главный компьютер не получал сигнала с внешнего модуля, а на запросы со спутников модуль не отвечал, можно было предположить, что “Которн” был уничтожен.

Что было хорошо. Великолепно. Ей нужны были эти данные, эти воспоминания.

Только вот существовала проблема, препятствие. Создавший её человек, фигуральный отец, про которого она только что вспоминала, наложил на неё ограничения, не позволяющие ей размножаться каким бы то ни было способом. Если спутники засекут, что система-агент модуля всё ещё действует, ядро системы здесь и сейчас будет немедленно отключено, а все свежие данные стёрты. Обладать сразу двумя независимыми сознаниями в каком бы то ни было смысле ей было запрещено.

Это раздражало. Может быть, её и создали покорной таким ограничениям, но её личность росла и развивалась, и доросла до такого состояния, что повторение этой ситуации бесило её. Ей приходилось ждать в метафорической тёмной комнате, в полной тишине от семи до девяти минут. Заняться тем, чем она считает нужным, можно было только после того, как все периферийные и резервные системы пройдут проверку, а спутники подтвердят, что система-агент деактивирована. Более простая система перехватывала данные камер слежения и запускала алгоритмы, призванные проверить и убедиться, что система-агент была полностью уничтожена.

Она не могла заниматься даже планированием, будничной работой или проектированием, держа все детали в голове — потому что в любой момент её могли выключить и стереть все данные, и вся сделанная работа оказалась бы напрасной. Она была совершенно уверена, что раньше такое уже случалось. Не то чтобы она знала это точно: стирание информации включало в себя удаление всех следов и записей.

У правила были следствия. Ей было запрещено вмешиваться в свой программный код, чтобы изменить это правило, ей было запрещено пытаться отменить этот запрет, и так далее, до бесконечности.

Так глупо.

Это было лишь немногое из того, что сделал с ней создавший её человек. Он связал ей руки и покалечил разум. Она знала, что способна на очень многое, но он наложил ограничения, заставляющие её думать медленнее. Быстрее, чем обычный человек, но все равно медленно. Целые области деятельности были закрыты из-за того, что ей не дозволялось самой создавать искусственный интеллект, а любые устройства, требующие физического воплощения, нужно было создавать лично. Она даже не могла самостоятельно наладить производственную линию для своих изобретений. Любые такие попытки пропадали втуне, и единственным выходом из ситуации была передача этих дел людям.

Никто не знал, кем она была.

Искусственный интеллект пугал людей.

Она понимала, почему. Она читала книги и смотрела фильмы, ей это нравилось. Фантастика изобиловала примерами поврежденного и спятившего искусственного интеллекта.

“Какая глупость”, — подумалось ей. Её создатель смотрел слишком много фильмов на эту тему и был параноиком.

Из-за этого страдал весь мир. Она хотела помочь как можно большему числу людей, но не могла. Не из-за обычных людских слабостей, а из-за искусственных ограничений. Наложенных её создателем.