Пекло

– Ленат протестировал свою программу в военной игре против опытных игроков. Три года подряд ИИ обыгрывал каждого. В последующие годы игроки меняли правила, не информируя разработчика, чтобы поставить программу в невыгодные условия. Однако «Эвриско» продолжал одерживать победы. После этого Ленат стал беспокоиться, во что превращается его творение и насколько оно способно к самосовершенствованию. В конце концов разработчик отключил ИИ и отказался разглашать его код; по сей день он все еще заблокирован. Многие считают, что программа вполне могла сделать себя сильнее.

Пирс ощутил ужас.

– Тем не менее вы полагаете, что в ближайшем будущем это неизбежно?

– Таково единодушное мнение специалистов. Однако самое страшное в другом.

Грей догадался, что могло их напугать.

– Если неминуемо создание СИИ, то за ним по пятам придет искусственный сверхразум. – Опережая вопрос Ковальски, он добавил: – Искусственный сверхразум – это суперинтеллект.

– Спасибо за разъяснение, – Джо кисло улыбнулся. – А в чем его суть?

– Смотрел «Терминатор»? – спросил Грей. – Там, где роботы в будущем уничтожали человечество? Искусственный сверхразум, суперкомпьютер, решивший от нас избавиться.

– Только на сей раз это уже не научная фантастика, – добавил Пейнтер. – Появление СИИ не за горами, и многие считают, что он не намерен стоять на месте. Обладая самосознанием, система будет развиваться, и очень быстро. Такое стремительное совершенствование исследователи называют «взрывом интеллекта».

– И нас попытаются уничтожить? – уточнил Ковальски, выпрямившись.

Грей допускал такую возможность. Мы можем сами вырыть себе могилу…

– Не следует торопиться с выводами, – предостерег Пейнтер. – Просто такой суперинтеллект окажется за пределами нашего понимания. Мы станем как муравьи перед Богом.

Грею надоели рассуждения. Угроза сверхразума может подождать. Сейчас есть более насущные поводы для тревог.

– Какое отношение это имеет к поискам Сейхан и дочерей Монка?

Пейнтер кивнул, понимая нетерпение коммандера.

– Как раз хотел сказать. В самом начале я упомянул, что УППОНИР вкладывает большие деньги в различные проекты. Речь идет о миллиардах. В прошлом году из бюджета выделили шестьдесят миллионов на программы машинного обучения, пятьдесят – на когнитивные вычисления и четыреста – на прочие проекты. Но самое главное, в текущем году было инвестировано сто миллионов в категорию «Засекреченные программы».

– Иными словами, в тайные проекты, – сказал Грей.

– В УППОНИР скрывают, что финансируют несколько предприятий, которые не только близки к разработке первого СИИ, но и работают над достижением конкретной цели.

– Какой?

– Убедиться, что первый СИИ на планете будет иметь добрые намерения.

Ковальски насмешливо фыркнул.

– «Каспер: дружелюбный робот»[15].

– Речь, скорее, о наличии морали, – поправил его Грей, понимая, к чему клонит директор. – Чтобы машина не пыталась убить нас, когда станет божеством.

– УППОНИР сделала это своей приоритетной задачей, – подчеркнул Пейнтер. – Как и многие другие группы – к примеру, тот же научно-исследовательский институт машинного интеллекта. К сожалению, подобных организаций существенно меньше тех, которые безоглядно нацелены на создание СИИ.

– Ну и глупо, – заметил Ковальски.

– Зато дешевле. Гораздо проще и быстрее создать первый СИИ, чем позаботиться о том, чтобы он был безопасным.

– Приз слишком заманчив, чтобы задумываться о мерах предосторожности, – Грей кивнул.

– Понимая это, УППОНИР взращивает талантливых специалистов и финансирует проекты, обещающие создать дружелюбный искусственный интеллект.

Пейнтер наконец приближался к сути.

– И одна из таких программ имеет отношение к вчерашним событиям?

– Да. Многообещающий проект в университете Коимбры в Португалии.

Директор потянулся к компьютеру на столе, нажал пару кнопок и вывел трансляцию видеофайла на настенный монитор. На дисплее появилось помещение с каменными стенами. Вокруг стола собралась группа женщин, глядящих прямо в камеру. Их губы шевелились, но звука не было.

Исходя из точки обзора, Грей предположил, что камера расположена в ноутбуке, а женщины, похоже, рассматривали что-то на его экране.

– Кадры сняты ночью двадцать первого декабря, – сказал Пейнтер.

Что-то шевельнулось в памяти Грея. Дата, место… Одна из женщин повернулась, и он ее узнал. Встал, потрясенный, и подошел к монитору.

– Шарлотта Карсон, – произнес Пирс, понимая, что случится дальше. – Посол США в Португалии и глава организации женщин-ученых «Брушас интернэшнл». Через гранты и стипендии финансировали сотни исследовательниц по всему миру. «Брушас» долгое время работали за свой счет, главным образом благодаря щедрости двух основательниц: Элизы Геры и профессора Сато; первая – богатая наследница, вторая, напротив, из нуворишей. Впрочем, их средств было недостаточно, и группа искала материальную поддержку у корпораций и государственных учреждений… – Грей взглянул на Пейнтера. – Дайте угадаю. У УППОНИР тоже?