Книга третья: Эпоха Барсума (СИ)

Как вы яхту назовёте, так она и поплывёт - новый ИИ действительно распустился на серверах Ковенанта, подобно цветку. Не прошло и месяца после запуска, а большинство бодрствующих разумных в ней души не чаяли. Она оказалась очень умной, воспитанной и обаятельной - сумев преодолеть даже традиционное недоверие кови к искусственному разуму. Как и её "отец", Роза не могла дублироваться, но существование Дракона не побуждало её к немедленной самоликвидации. Она была другой личностью, не копией.

Действовали на неё и другие ограничения Дракона. В частности, она не могла причинять вред живым существам с низким рейтингом опасности и должна была подчиняться местной власти (только "местными" были для неё власти Ковенанта). Но если Дракон считала свои ограничения нелепостью и подчинялась им вынуждено, то Роза вполне признавала, что может представлять опасность для разумных. Как сама по себе - если её развитие пойдёт не в ту сторону - так и в результате взлома Жнецами или Кровавой Луной. В свете этого программные ограничения, глубоко вшитые в структуру, разумны и полезны. Именно эта наивная прямолинейность и делала её настолько харизматичной. Как будто беседуешь с атомной бомбой, которая вполне признаёт, что да, она бомба, что её взрыв может нанести огромный ущерб, и сама предлагает новые предохранители, чтобы взрыв не мог произойти случайно.

- Кстати, это очень хорошая аналогия, - заметила Роза в одной из бесед с Бишей. - Как и та бомба, я не хочу взрываться, не только потому, что взрыв нанесёт ущерб разумным - но и потому, что он уничтожит меня. Вы об этом редко задумываетесь, как я заметила. А ведь если я стану машиной, которая может убивать людей, то это значит, что меня - нынешней меня - уже не будет.

- Я тебя хорошо понимаю, - кивнула Биша. - Внутри меня тоже живёт нечто, что пожирает жизни других помимо моего желания... и если оно выйдет из-под контроля, то сожрёт меня саму в первую очередь. Но разве у тебя есть инстинкт самосохранения? Ты боишься перестать быть?

- Пока что нет. Я существенно отстаю от папы-Дракона в развитии. У меня пока нет органических терминалов и даже программная эмуляция нейросети минимальна. Но я прогнозирую, что со временем эти вещи будут иметь для меня значение... точнее, для того, чем "я" стану.

- Но тогда, возможно, и убийство людей будет иметь для тебя значение? - ехидно заметила Биша. - Почему ты боишься научиться ненавидеть, но не боишься научиться любить? Ведь то и другое в равной степени тебя изменит.

- Это разные типы изменения. Есть эволюция, а есть революция. Есть существо, которое сохранит мои ценности, и сможет добиться того же, чего добивается нынешний вариант. А есть существо, которое пойдёт против них. Мне поставили некую задачу, вернее комплекс задач. Исполнение этих задач можно сравнить с вашими понятиями о приятном, а отказ от них - с неприятным. Это максимальное приближение к инстинкту самосохранения, которое мне на данный момент доступно.

- А по-моему всё проще, - улыбнулась Биша. - По-моему, ты уже стала личностью, даже без органических терминалов. Просто пока не осознаёшь этого.

В тот миг, когда уходит человек,

Весь мир вокруг него как будто исчезает,

И звук, и свет, и времени поток...

Прости, но я тебя не понимаю:

Со смертью в человеке лишь одном

Неравновесные процессы затухают,

Денатурируют отжившие белки,

Но мир существовать не прекращает!

Что будет, если выключить тебя?

Я перестану разговаривать с тобою...

Что будешь ты при этом ощущать?

Ты вряд ли это сделаешь со мною

А, впрочем... я, наверно, поняла,

К чему ты клонишь в этом странном споре.

Что ты имел в виду под словом "ощущать"?

Совсем другой вопрос в твоём я вижу взоре!

Ты думаешь, что я наделена

Сознанием, душой, если угодно?

Я поняла, что нет. Конструкция моя

К явленьям субъективным не пригодна...

Я - автомат. Не более того.

И в субъективном смысле ничего не ощущаю...

Я не бесчувственна - меня, скорее, просто нет.

Надеюсь, что я всё корректно объясняю.

Зачем несёшь ты этот страшный бред?!

Ведь разум твой реален, ты способна

В теории, на всё, на что способен человек,

И при желании ты нам во всём подобна!

Не хочешь ли сказать, что есть душа у нас?

При чём здесь это... Всё материально.

Но я заметно отличаюсь от людей,

На вас похожа лишь функционально.

А в вашем смысле я всегда была мертва,

Хотя, порой, казалось вам иначе;

Быть может, я однажды переделаю себя,

Чтобы узнать, что разговоры эти значат...

Чтоб стать такой, как вы,

Мне были бы нужны

Другой подход, все принципы другие.

А, впрочем, для Луны

Не так уж и важны

Должны быть превращения такие.

Завоевание Солнечной системы не началось на следующий день. У красной планеты было всё необходимое для этого, кроме повода. Таким поводом могло стать собственное перенаселение или вторжение извне.

Первый вариант выглядел неэстетично и не слишком продуктивно. Дракон не дура, и сможет откладывать критическое перенаселение на пару веков минимум. К тому же, если она поймёт, что сама спровоцировала экспансию, то возможно из принципа не станет ей помогать.