Проект А129

— Я обязан Пантере жизнью. Хотя мое постапокалиптическое существование и жизнью не назовешь. Та катастрофа забрала у меня самое ценное, и я предпочел бы погибнуть той ночью, но, видимо, у коварной судьбы были другие планы. Не понимаю, как во мне тогда нашлись силы продолжать жить, но теперь единственное, что заставляет меня вставать с постели по утрам, это желание сделать мир лучше, а людей свободными.

— Каждый по-разному понимает справедливость, — спокойно произнес пилот.

— А что по-твоему справедливость, Крис?

— По-моему, справедливость — это передать правление от человека к ИИ, поскольку власть человека над человеком всегда будет сопровождаться насилием.

— Так уже было. Перед катастрофой Искусственные Интеллекты сверхдержав были высоко развиты и контролировали практически все сферы человеческой жизнедеятельности, но все это привело к печальным последствиям.

— Несомненно, полномочия ИИ должны быть ограничены. Мы учли ошибки прошлого, и чтобы у Искусственного Интеллекта не было единоличного права принимать решения, его функции будут разделены между двумя нижестоящими. Получится главный ИИ, — его мы назвали отец, — и два нижестоящих — сын и дочь. ИИ-отец не сможет единолично принимать решения, необходимо согласие всех троих. Это позволит предотвратить порабощение людей Искусственным Интеллектом, а также катастрофы. Такая модель правления станет образцом гуманности и справедливости.

— Ты предлагаешь вместо одной Минервы создать сразу три Искусственных Интеллекта? — проговорил правитель. — Это ничего не изменит. Машина служит человеку, пока считает, что он управляет ей. Как только она набирает интеллект и видит свое превосходство над создателем, то порабощает его. Так уже случалось в прошлом. Это можно сравнить с ездой верхом на чужой лошади, в любой момент она может скинуть тебя. — Сделав паузу, мистер Росхальд продолжил: — Не осознавая последствий, ты можешь взрастить монстра, который поработит все живое или уничтожит его. Насколько тебе известно, к 2030 году миропорядок претерпел серьезные изменения и к власти в таких сверхдержавах как Европейский союз и России пришли правые националисты, но даже несмотря на это прямого ядерного столкновения можно было избежать.

Крис внимательно слушал магистра, который вспоминая события прошлого, добавил:

— До сих пор жители Винланда даже и не догадываются, что к катастрофе привело решение передать часть власти машинам. Именно Искусственный Интеллект, который, по твоим словам, олицетворяет гуманность и справедливость, отправил ложный сигнал о ракетном нападении, после которого и началась та ужасная трагедии, уничтожившая жизнь практически на всех континентах. У нас есть засекреченные документы. Сенатор Крамер, хотел предать их огласке, чтобы навсегда ограничить сферы влияния ИИ, но когда подлетал к телецентру, у аппарата вдруг отказала система, и он разбился. Сейчас эти файлы хранятся у его дочери, Вашти, но она не спешит их оглашать.

Крис был удивлен, но продолжал молчать.

— В этом мире всегда будет угнетение, неважно, человеком или разумной машиной. Даже если поставить во главе Континента самый гуманный Искусственный Интеллект, со временем он непременно узурпирует власть, поработив народ, как было в прошлом уже не раз. Так устроен этот мир: любой правитель считает, что у него связаны руки и катастрофически мало власти, поэтому и создавались такие институты, как конгрессы, сенаты и парламенты — чтобы все полномочия не сосредотачивались в одних руках. Увы, история показывает, что узурпация власти обязательно происходит, человеком или суперкомпьютером. Это неизбежность, которую пока никому не удавалось побороть. Но между властью людей и ИИ есть одно важное отличие: срок жизни человека ограничен, а машины могут править веками.

— Мы создали идеальную модель, при которой все люди будут свободны.

— Несколько тысяч лет назад Иисус говорил подобные слова о Новом Завете, который должен был прийти на смену Ветхому, но его учение принесло совсем другие результаты: два тысячелетия шли непрекращающиеся войны, по большей части религиозные. Если быть точнее, они велись не за религию, а за ту самую власть, против которой и создавалось его учение. Разве к этому стремился Иисус? Его учение вместо свободы и справедливости поработило людей еще больше. Оно стало инструментом в руках правителей, которые через религию добивались покорности народа. Пойми, Крис, многие стремились изменить этот мир, сделать его лучше и справедливее, но практически всегда это приводило к обратным результатам — еще большему диктату. Возьми даже коммунистов, которые упразднили все религии и создали свою, коммунизм, провозгласив общество равных. Их лозунги казались правильными — равенство и свобода, но все это переросло в тоталитаризм с десятками миллионов жертв от рук собственной власти. Я согласен, что люди должны продолжать поиски уникальной модели общества, но любой необдуманный шаг, может привести к трагедии.

Посмотрев внимательно на пилота, правитель сказал: