Пекло

– Если она перезапустит программу, а та ускользнет – всё, игра окончена. – Джейсон покачал головой. – Я изучил все ее работы, архитектуру нейроморфного компьютера, квантовый привод… Гениальные вещи. И одновременно страшные. Она тоже это понимала. И потому окружила устройство кольцом смертельных ловушек.

– Как ты оцениваешь уровень угрозы? Насколько вероятно, что программа окажется опасной, если получит свободу?

– Любая система с самосознанием – любой СИИ – попытается самосовершенствоваться, и ничто не сможет этому помешать. Программа станет умнее, а потом еще…

– И еще, и еще…

– Кроме того, СИИ быстро приобретет те же базовые биологические устремления, что и мы. Самое важное из них – самосохранение.

– Не захочет быть отключенным… или умереть.

– И будет останавливать малейшую угрозу, используя любые средства и постоянно оттачивая свои возможности. Я уже не говорю об иных потенциальных рисках. Обладая огромной вычислительной мощностью и бессмертием, СИИ будет искать источник опасности для себя, заглядывая за горизонт, в далекое будущее, и разрабатывать стратегии, чтобы пресечь опасность в корне, даже если до нее еще тысяча лет. А самое худшее – он будет постоянно оценивать, представляет ли угрозу для него человек. И если сочтет нас опасными…

– …игра окончена, как ты и говорил.

– Именно поэтому проект Мары так важен. Она пытается разработать дружелюбный СИИ, способный защитить нас от опасного суперинтеллекта, который может быть создан… поправочка, будет рано или поздно создан. Помимо финансируемых правительством центров, сотни компаний создают СИИ втайне. Они одержимы идеей стать первыми и не беспокоятся о последствиях.

– И когда это случится?

– Очень скоро, – сказал Джейсон и махнул на кипы бумаг. – Программа «Дип майнд», разработанная компанией «Гугл», недавно самостоятельно открыла основы квантовой физики. Две переводческие программы с искусственным интеллектом начали общаться друг с другом на своем языке, не поддающемся расшифровке, и отказались переводить разговор. По всему миру интеллектуальные творения превосходят своих создателей, весьма креативно пользуясь человеческими промахами и ошибками. Некоторые программы даже продемонстрировали человеческую интуицию.

– И как же?

– Пару лет назад была большая шумиха вокруг «Альфаго» – программы ИИ от «Дип майнд», – которая победила чемпиона мира в древней китайской логической игре го. По некоторым подсчетам, го в триллион раз сложнее шахмат. Никто не ожидал, что компьютер выиграет у человека. По крайней мере, в ближайшее десятилетие.

– Впечатляет.

– Это еще что! Компании потребовались месяцы, чтобы подготовить «Альфаго» к соревнованию. Потом «Гугл» применил другой подход и выпустил новейшую версию «Альфаго зироу», способную играть сама с собой и обучаться. Через три дня она стала настолько опытной, что превзошла оригинальную программу в ста играх из ста. Каким образом? «Альфаго зироу» разработала интуитивно понятные стратегии, до которых не додумался ни один человек за тысячи лет существования игры.

Грей сглотнул, чувствуя пустоту в животе.

– Итак, мы стоим на пороге первого СИИ. – Джейсон пристально посмотрел на Грея. – Поэтому, пока не приземлились, следует уточнить основные цели нашей миссии. Мы должны не только предотвратить попадание программы Мары в недобрые руки. Она необходима нам для выживания нашего вида.

На дисплее «Айпэда» Джейсона высветилось небольшое окно с текстовым сообщением от Лизы Каммингс.

Кэт становится хуже.

Надо продолжить тестирование.

Выбора нет.

Грей знал, как сильно юный аналитик восхищается Кэт.

– Это тоже задача миссии, – напомнил он Джейсону. – Выяснить, как текущие события связаны с ней.

И с похищением Сейхан с девочками…

Пирс изо всех сил старался не поддаваться страху за Сейхан и нерожденного ребенка, и отдаленные последствия операции невольно отходили на второй план.

Он представил больничную палату в Принстоне.

Держись, Монк!

Глава 9

25 декабря, 09 часов 14 минут

по восточному поясному времени

Плейнсборо, штат Нью-Джерси

Монк ходил взад-вперед по кабинету управления аппаратом МРТ в подвале медицинского центра Принстона. Оператор сидел за компьютером, калибруя томограф, расположенный в соседнем помещении. Двое других сотрудников общались между собой на малопонятном языке: «Двоится? Расплывается? Изображение неплохое. Режимы STIR и FLAIR[25] активированы».

Приглушенный свет, суета и взволнованное бормотание напомнили Монку центральный пост подводной лодки. Только здесь нес службу не вахтенный офицер, а доктор Джулиан Грант, невролог с гарвардским образованием, который специализировался на пациентах с измененным сознанием – от комы до разной степени вегетативных состояний.