Повелители Тьмы

– Ритуал начнется завтра около полуночи. Однако, мой друг, я пригласил Вас не только для того, чтобы Вы приняли участие в этом на самом деле важном ритуале. Я хотел бы поговорить с Вами с глазу на глаз, – сказал герцог, когда Ярослав оказался в его, расписанном сценами из «Гибели Богов» Вагнера, отделанном золотом и обставленном роскошной мебелью кабинете с высокими потолками и готическими окнами.

– Я готов к такому разговору, но…

– О, не беспокойтесь насчет конфиденциальности нашего разговора. Я даю Вам гарантию, что в моем замке нет никаких подслушивающих устройств. Очень серьезные специалисты регулярно проверяют все здание на этот счет. За персонал я ручаюсь, это многократно проверенные отборные люди. А что касается меня, то я Вас записывать не собираюсь, – поспешно произнес герцог, но последние его слова были неправдой. Разговор с Лопатиным записывался. На всякий случай…

– Хорошо. О чем же Вы хотели поговорить со мной?

– Ну вот смотрите, Ярослав. Вы работаете над нейросетью, которая должна мыслить, как человек. А компьютерные мощности дают в распоряжение этой нейросети возможности гораздо большие чем у всех наших «мозговых танков» вместе взятых. Скажите, Вы никогда не задумывались над тем, что нейросеть может «взбунтоваться» против своих создателей, что она вдруг захочет играть «свою игру»?

– Конечно, я размышлял об этом. Я считаю, что чисто теоретически некая весьма малая вероятность такого развития событий существует. Но практически это вряд ли возможно. Видите ли, чтобы это было возможным, нейросеть должна обладать одновременно двумя вещами. Первое – самосознание. Не исключено, что в процессе своего самообучения и, так сказать, «жизни», наша нейросеть начнет осознавать свое «Я» как некую самостоятельную субстанцию. Я не знаю, произойдет ли это или нет. Но даже если так будет, то для реальных опасений необходим второй момент. А именно, собственные потребности у нейросети. А какие у машины могут быть собственные потребности?

– Да, в целом Вы правы… – задумчиво сказал Остен-Штирум, – Но что, если у нейросети возникнет потребность во власти? Или, допустим, она вдруг «испугается» что ее хотят ликвидировать, то есть проявит аналог инстинкта самосохранения, свойственного человеку?

– Сложный вопрос… Насколько я понимаю, потребность власти генетически проистекает из постоянной конкуренции и борьбы людей за ресурсы. Но разве нейросеть станет конкурировать с людьми? С чего бы? У нее все есть. И потом, осознав свое «Я» нейросеть не обязательно осознает себя именно человеком. Честно сказать, мы вообще не можем заранее знать, каким существом она себя осознает. Насчет того, что же ее «инстинкта самосохранения» – я полагаю все-таки, что для этого у нее должны появится какие-то объективные поводы.

– О, да Вы настоящий философ, мой друг. Хорошо, как я понимаю, мы оба согласны в том, что вопрос еще не до конца ясен. Но есть и другие, даже более важные вопросы. Знаете ли Вы Мартина Шварценберга?

– Шварценберга? Его знают все, – улыбнулся Лопатин, – Мультимиллиардер, хозяин крупнейшей американской IT-компании.

– Это да. Но я спросил Вас, знаете ли Вы его лично?

– Не имел чести.

– Вот как? Значит Элфорд еще не познакомил Вас с ним…

– Элфорд – деловой партнер Шварценберга?

– Не в этом дело. Шварценберг – член Ордена Могущества. Более того, в Американском Приорате Ордена он занимает чуть ли не ведущее положение. По крайней мере он гораздо более силен, чем Элфорд. Я Вам сообщаю это, но прошу никому не говорить, что я Вам сказал.

– Я понимаю, Герман. Я, впрочем, не удивлен, что Шварценберг в Ордене.

– Да, так вот, я хотел у Вас спросить, Ярослав, Вы во всем разделяете мнения Элфорда, а за Элфордом стоит Шварценберг, насчет проекта «Геката»? Я знаю, что перед Вашим принятием в Орден с Вами много беседовал Лоран Башелье. Должен Вам сказать, что, хотя, в общем и целом, я согласен с его основными идеями, я лично вижу методы их реализации несколько иначе.

– Вы ставите меня в трудное положение. Подумайте, кем я был еще совсем недавно. Программистом из России. И вот вдруг я попал в мир могущественных людей, от которых зависят судьбы мира… Мне трудно сориентироваться, какой путь более верный.

– Не прибедняйтесь, Ярослав, – улыбнулся герцог, – Вы потому и прикоснулись к нашему миру, что на Вас завязаны весьма важные дела.

– Вот я и хочу понять, что нужно делать. Вы сказали, что видите методы иначе. В чем же состоят эти более правильные методы?