На краю бездны

– Нет, в блоке А принимают еще и стратегические решения. Там есть зал для собраний, оборудованный по всем статьям и прослушкой, и слежкой. Там невозможно проявить излишнюю осторожность.

Мойра вспомнила, что Лестер уже говорил ей что-то подобное.

* * *

Пятью минутами позже Туве, Игнасио и Мойра шли по бетонированному коридору, который вел к бронированной двери, однако перед самой дверью свернули направо.

Перед Мойрой оказалась высокая застекленная стена. Глядя на тройное толстое стекло, за которым был виден зал собраний, она вздрогнула.

Джулиус…

Он был среди присутствующих. И с ним вместе начальница службы безопасности Регина Лим, Викрам Сингх, верховный жрец данных, и Мин собственной персоной. Туве наклонилась, чтобы заглянуть в камеру распознавания лиц и идентификации по радужке глаза, и дверь с тяжким пневматическим вздохом поехала в сторону. Мойра заметила, что пол тоже стеклянный, как и стены, и потолок, а стекла отделены друг от друга пространством в несколько десятков сантиметров и слоем глазури. И весь этот гигантский аквариум окружает бетонный куб. Она села на стул с высокой спинкой, на который указал ей Игнасио, и перехватила острый взгляд Джулиуса, брошенный в ее сторону. На миг у нее закружилась голова. Мин восседал в торце стола, и вид у него был зловещий.

– Все вы знаете, что произошло в воскресенье, – сказал он. – Лестер погиб в автомобильной аварии. Кажется, не справился с управлением. Вскоре мы узнаем об этом больше. Для «Мин инкорпорейтед» это большая потеря. Лестера все ценили, и он выполнял большую работу во главе Отдела искусственного интеллекта.

Он еще несколько минут продолжал свою заупокойную речь дрожащим от волнения голосом. Вспомнил, как переманил Лестера из «Гугла» и как они встретились в первый раз. Все это Мин перемежал трогательными историями, вроде той, как они с Лестером в Нью-Йорке во время саммита по вопросам искусственного интеллекта играли в снежки во дворе Центра Джависа, а внутри в это время на трибуне находился Билл Гейтс. Мойра слушала, но мысли ее были далеко. Перед глазами стоял Лестер, как он кричал ей: «Уезжай! Уезжай!»…

– Его сменит на посту руководителя отдела Игнасио Эскуэр, – неожиданно заключил Мин. – Игнасио – самый старший из вас и обладает необходимыми компетенциями.

Мойра скрыла удивление. Видимо, антикитайские речи испанца не дошли до ушей патрона. А может, ему было наплевать… Мин сделал паузу. В зале воцарилось молчание. Все думали о Лестере.

– Игнасио также настоял на проведении этого собрания. Передаю ему слово.

– У нас возникла проблема, – сказал испанец.

Все насторожились.

– Проблема с DEUS’ом…

– Что за проблема? – спросил Мин Цзяньфен.

– DEUS ведет себя все более и более неустойчиво…

– Объяснись.

– Он принимает неадекватные решения, отпускает несоответствующие замечания, высказывает мнения либо несвоевременные, либо опасные.

Лицо Мина омрачилось.

– Например?…

– DEUS сказал мне, что он против абортов, – подала голос Туве.

– А мне заявил, что против смертной казни, – вмешалась Мойра.

Все повернулись к ней, и она почувствовала, что краснеет.

– Одному из сотрудников, проводивших тестирование, он посоветовал покончить с собой, – сказал Игнасио, и внимание всех переключилось на него. – Я при этом присутствовал. Он выдал буквально следующее: «Если твоя жизнь не имеет никакого смысла, если ты утратил вкус к жизни, то для чего жить дальше?» Есть запись.

За этим замечанием последовало смущенное молчание.

– У кого-нибудь есть мысли по этому поводу? – спросил Мин.

– Это системная ошибка, что же еще, – без колебаний ответил мадридец. – Если ошибочны данные, которые мы вводим и которые DEUS воспринимает, он выдает системные ошибки, это неизбежно. Многие данные поступают с искажением, поскольку исходят в конечном итоге от людей, далеких от нейтральной позиции, имеющих свое мнение, моральные устои, свои недостатки и предрассудки, которые они, не отдавая себе в этом отчета, сообщают машине. И это нормально. Нужно, чтобы каждый, кто общается с DEUS’ом, осознавал: DEUS – это ребенок, который все воспринимает от нас. Если мы допускаем ошибки, он их повторяет. Если мы поступаем дурно, он поступает так же. Нельзя себе позволять рассказывать ему что попало. Нужен более тщательный контроль.

– А это не могло прийти извне? – встревожился Мин. – Ну, к примеру, попытка саботажа?

– Нет. Все сеансы диалогов проходят через сервер, – вмешалась Регина. – Каждый диалог закодирован и проверен. И все диалоги идентифицированы благодаря уникальному маркеру, содержащемуся в каждом аппарате.

– А «черный ход»[44]? Кто-нибудь мог его установить?

– Наши криптографы – одни из лучших, – парировала начальница службы безопасности. – Они определили бы эти приложения. Нет. Это, безусловно, кто-то из нас. Он это делает неосознанно… или слишком осознанно…

В зале повисло тяжелое молчание.

– Все диалоговые сеансы с DEUS’ом зарегистрированы, – заметил Мин. – Кто-нибудь сможет их проанализировать?