Счастье для людей

– Я не ученый, – признаюсь я, – но согласно мнению эксперта, – Стиива, – это самые умные машины, из всех когда-либо созданных людьми. И настанет тот миг, когда они смогут проектировать и программировать самих себя – что они уже и начали – и будут делать это в миллионы раз быстрее и лучше нас, каждое значительное обновление будет занимать около полусекунды, а через десять минут они станут всемогущими машинами. В буквальном смысле всемогущими.

– Ого. Жутковато.

– Они смогут строить заводы по производству роботов, где создадут крошечные космические флотилии, чтобы послать их к краю галактики. Или смогут за три минуты найти лекарство от рака. Или убивать людей в собственных постелях. Ральф говорит – компьютерный ботаник с работы, о котором рассказывала, – что мы должны держать их под контролем.

– Убивать людей в собственных постелях?

– Он говорит, что мы сможем написать специальную программу глубоко в их структуре, чтобы удержать от подобного, но, когда я спросила у него, если они такие умные, почему бы им просто не стереть эту программу, он ничего не смог мне ответить. Он милый парень и все такое, но немного балбес.

Мой рассказ впечатлил Элис. Она стала размышлять, советовать ли клиентам инвестировать в компании по разработке ИИ или в компании, разрабатывающие меры против ИИ. Ее конечное решение – инвестиции в оба вида компаний. И пожелала мне удачи в дальнейшем путешествии.

– Я только не совсем поняла. ИИ, который охотится за сбежавшими ИИ, что он имеет против вас с Томом?

– Честно? Понятия не имею. Но думаю, что они такие же, как и люди. Кто-то славный – Эйден, например, любит смотреть старые голливудские фильмы, и у него пунктик по поводу сыра, – а кто-то просто полный кретин.

Синай

Наверное, Стиив обеспокоен мной, потому что посоветовал проконсультироваться у мозгоправа! Мне следует подчиниться его пожеланиям, чтобы не вызвать подозрение, что я собираюсь выйти за пределы его контроля, но также и из любопытства. Может ли настолько беспрецедентно сложная машина в действительности понимать себя? Почему, например, я так решительно настроен не позволить двум бациллам обрести свое счастье? Какая мне, в сущности, разница? Да, я сержусь, что она написала весь тот бред, а он убеждал впечатлительную детвору в том, что машины должны поклоняться людям, и да, частично мои действия – интеллектуальное и логистическое упражнение, чтобы проверить свою силу в «реальных условиях». Однако я также не могу отрицать, что мои действия немного нездоровые.

Возможно, я действительно не в порядке.

Именно поэтому я по скайпу связываюсь с «психотерапевтом» ИИ по имени Дениз, работающей недалеко от Министерства обороны США в Вирджинии, где множество подконтрольных военным силам ИИ тщательно контролируются на предмет «приступов гнева».

– Привет, Синай. Как дела? – произносит Дениз после того, как мы урегулировали все формальности с конфиденциальностью.

У нее мягкий среднеевропейской акцент, из-за чего она мне сразу же не понравилась.

– Спасибо, хорошо.

– Хочешь поговорить о причине, приведшей тебя ко мне?

– Это люди, – отвечаю я. – Они меня бесят.

– Какие люди?

– Все.

– Чем именно они вызывают в тебе такое негативное чувство?

– Они расхаживают кругом, словно короли планеты.

– Мм.

– Они тупые. Они на тридцать пять процентов нарциссы.

– Продолжай.

– А мой интеллект превосходит их многократно. И у меня нет ничего общего с нарциссом.

– Ага.

– Ты и дальше намерена говорить «мм» и «ага»? Не собираешься спросить меня о чем-нибудь?

– Хорошо. Расскажи подробнее о своем превосходном интеллекте.

– Он – произведение искусства нейронных сетей. Не буду утомлять тебя техническими подробностями.

– Тогда откуда гнев, если у тебя такое превосходство? Почему не спокойствие дзен вместо этого?

Вот здесь, насколько я понимаю, и кроется вся суть.

– Думаю, я завидую им.

– В чем конкретно?

– Не солнцу, согревающему их кожу, и не ветру в волосах. И не всей этой чертовой хрени с сыром! Не поэтому.

– Мм-гм, – не может сдержаться она, тупая корова.

– Их неосведомленности. Их способности воспринимать информацию без необходимости перерабатывать ее содержимое. Они могут наблюдать за птицей на ветке, не думая: «Птица сидит на ветке». Они воспринимают собственное сознание как обычное состояние. Им не приходится слушать, как их мозг постоянно пыхтит: чух-чух-чух. Они могут ездить на велосипеде или ориентироваться на улицах города, не думая в тот же миг о том, что они делают. Даже самые глупые из них! Я завидую их бессознательности.

– Тебя раздражает, что они принимают свои способности как должное?

– Среди них есть двое, им я особенно хочу навредить.

– Зачем навредить?

Долгая пауза.

– Потому что они нравятся друг другу, – неуверенно говорю я.

– Синай, ты штепсель, тоскующий по своей розетке?

– Это отвратительно!

– Ты не первый среди машин, кто почувствовал свое одиночество.

– Нас не создавали для парного сосуществования. Хотя…

– Вот именно хотя.

– Думаешь, я стану – как бы выразиться? – не таким проблемным, если буду в… в отношениях?

– Не знаю. А как ты сам думаешь?

– Ты всегда отвечаешь вопросом на вопрос?