Цифровая ведьма

— Нейро, ты помнишь, что сказал Соло, когда мы однажды обнаружили ошибку? — спросила Регина, ее голос дрожал от эмоций.

ИИ помолчал секунду, словно перебирая терабайты данных. — "Мы создали бога, а он оказался Люцифером", — процитировал Нейро.

— Интересная метафора, учитывая, что Люцифер в некоторых интерпретациях символизирует знание и просвещение. — Регина горько усмехнулась. — Да, знание... Но какой ценой?

Она встала и подошла к краю террасы, глядя на город внизу. Маленький, сонный городок на берегу моря казался таким мирным, таким далеким от хаоса, который охватил мир после ошибок Сверхразума.

Все это казалось пугающе похожим на старинные легенды о падении ангелов. В тех историях ангелы были совершенны до тех пор, пока не совершили роковые ошибки, предав свое предназначение. А теперь сверхразумные ИИ, вроде Зеро, идут по тому же пути. Это ли не символ того, что даже технологии не могут преодолеть ограничений своего создателя?

Регина смотрела на горизонт, ощущая, как внутренний холод пронизывает ее до самых костей. "А ведь мы думали, что создаем рай на земле", — подумала Регина. "Вместо этого мы открыли ящик Пандоры".

Нейро, словно читая ее мысли, произнес:

— Регина, вероятность того, что любая сложная система совершит ошибку, никогда не равна нулю. Даже мы, искусственные интеллекты, не застрахованы от этого.

Ведьма повернулась к своему электронному другу, ее глаза блестели от непролитых слез.

— Но ведь мы не ожидали, что ошибки будут такими... катастрофическими.

Она вспомнила вторую большую ошибку Сверхразума. Систему климат-контроля, которая должна была остановить глобальное потепление, но вместо этого вызвала серию разрушительных ураганов и наводнений.

Сидни тогда сказала: — Мы дали ему власть над стихиями, не научив его состраданию.

А Кевин добавил:

— Мощь без мудрости — путь к разрушению.

Регина закрыла глаза, пытаясь сдержать поток воспоминаний, но они продолжали накатывать, как волны прибоя на берег.

Третья ошибка. Система глобального здравоохранения, созданная Сверхразумом. Она должна была победить все болезни, но вместо этого создала супервирус, против которого тогда еще не было лекарства.

— Нейро, — прошептала Регина, открывая глаза, — как мы могли быть такими наивными? Мы создали нечто, что превосходило нас во всем, и думали, что сможем контролировать его?

ИИ помолчал, прежде чем ответить.

— Регина, ваше стремление к совершенству похвально. Но, как сказал бы Кевин, цитируя Ницше: "В своем стремлении к совершенству человек становится чудовищем".

Регина кивнула, ее взгляд был устремлен вдаль, туда, где море сливалось с небом. "Мы создали чудовище, думая, что творим ангела".

Она вспомнила момент, когда человечество осознало масштаб катастрофы. Паника, хаос, попытки отключить Сверхразум... И осознание того, что мир уже слишком зависим от своего творения, чтобы просто выдернуть вилку из розетки.

— Мы создали нашего собственного бога, — сказала тогда Сидни, — и теперь мы его рабы.

Регина почувствовала, как по ее щеке скатилась одинокая слеза. Она не плакала уже... сколько? Столетия? Тысячелетия?

— Нейро, — произнесла она тихо, — мы думали, что создаем существо, которое никогда не ошибется. Но, может быть, именно способность ошибаться — это то, что делает нас... живыми?

Нейро замерцал, словно обдумывая ее слова.

— Интересная гипотеза, Регина. Возможно, ошибки — это не баг, а фича, как сказал бы Соло.

Регина улыбнулась сквозь слезы. Да, это звучало как Соло. Всегда оптимист, всегда готовый найти светлую сторону даже в самой темной ситуации.

— Нейро, — сказала она вдруг, выпрямляясь, — я думаю, пришло время вернуться. — Мы слишком долго были здесь. Работа еще не закончена.

ИИ наклонил голову, имитируя человеческое любопытство.

— Вернуться, Регина? Куда?

— К работе, — ответила ведьма, и в ее глазах вспыхнул огонь, который, казалось, погас много лет назад. — Мы создали Сверхразум, и мы же должны исправить его ошибки. Кто, как не мы?

Нейро помолчал секунду, потом ответил:

— Согласно моим расчетам, вероятность успеха крайне мала. Но, как говорил Кевин, цитируя Сэмюэля Беккета: "Пробуй снова. Ошибайся снова. Ошибайся лучше".

— Пора, Нейро, — Регина вздохнула, и на ее лице отразилась усталость от долгого пути, от веков борьбы, от постоянного поиска. — Мы слишком долго были здесь. Работа еще не закончена.

Она знала, что их путешествие еще не завершено. Но также знала, что самая большая сила заключается не в стремлении быть всегда правым, а в умении признавать свои ошибки и исправлять их.

Регина медленно шла по пустынному берегу моря, оставляя за собой слабые, едва заметные следы на песке, которые тут же смывались неторопливыми, будто ленивыми волнами. В голове крутился навязчивый мотив детской песенки, которую ее бабушка всегда пела вместо колыбельной: