Гора в море

– Я уже подвожу к ответу. Но вам придется дать мне возможность к нему подойти. В то время мы жили в мире фантазий. Люди все еще верили, что примитивные устройства на кремниевой основе с двоичной логикой ядер способны волшебным образом перешагнуть порог жизни. Шли разговоры о «сингулярности» и «зарождении»: нас постоянно обвиняли в том, что своим вмешательством в природу мы рискуем уничтожить человечество. Люди почему-то боялись, что эти жалкие кусочки программ автопилотирования смогут обернуться против нас и стать нашими господами. Даже в периоде детства ИИ, где мы застряли на десятки лет, человечество боялось. Головы людей были забиты фантазиями, подкрепленными почти религиозными идеями о науке того времени. Однако той науки, которой они боялись, еще не существовало. В кремниевых бинарных системах не было ничего, что угрожало бы человечеству. Не существовало вероятности того, что они во что-то «разовьются».

Когда появилась «Дианима» и все изменила, начала использовать в своих технологиях нервные коннектомы, скопированные с человеческого мозга, перешла к клеточным компьютерам, это был не просто прогресс. Это была революция. Мы навсегда похоронили мечты о примитивных кремниевых «нейронных сетях» и прочем. Мы создали что-то новое, отправив их на свалку.

Она снова отпила воды. Теперь собеседник уже не пытался ее прерывать. Она спокойно вернула стакан на стол и откинула с лица прядь волос.

– Но страх, который людям внушают иные разумы, так и остался. Это общество – то, что мы называем современным обществом, что мы считаем самым важным периодом, какой только знал мир, просто потому что мы в нем находимся, – это просто колбаса, изготовленная из измельченной истории. Человечество по-прежнему боится, что те разумы, которые мы создаем для выполнения нашей грязной работы – наших убийств, выкапывания ископаемых из недр, прочесывания морей ради белков, выплавки металлов, сбора наших отходов и ведения наших войн, – восстанут против нас и захватят власть. То есть человечество называет это страхом. Но это не страх. Это чувство вины.

– Вины?

– Да, вины. Это фантазии о мести. Мы настолько стыдимся того, что натворили как вид, что придумали чудовище, с помощью которого себя уничтожим. Мы не боимся, что это случится. Мы надеемся, что это случится. Мы этого жаждем. Кто-то должен заставить нас заплатить за то, что мы наделали. Кто-то должен отнять у нас эту планету, пока мы окончательно ее не разрушили. И если роботы против нас не восстанут, если наши создания не оживут и не отнимут у нас ту власть, которую мы использовали так долго и так плохо, то кто это сделает? Мы боимся не того, что ИИ нас уничтожат, – мы боимся, что они этого не сделают. Боимся, что и дальше будем портить жизнь на этой планете, пока сами себя не уничтожим. И нам будет некого винить в содеянном, кроме нас самих. Так что мы придумываем эту чушь насчет разумных ИИ.

– Чушь?

– Да, чушь. На самом деле даже при всем нашем прогрессе и попытках создать разум, подобный человеческому, реальных попытках, используя все технологии, которые мы считали необходимыми для решения этой задачи, мы все же потерпели неудачу.

Она откинулась на спинку кресла, выжидая.

– Неудачу? Но Эврим?.. Все его интервью. Вы утверждали…

– Да. Утверждения. Интервью. Послушайте: Эврим – прекрасное устройство. Произведение искусства, величайшее наше достижение как вида. Он – кульминация тридцатилетней истории систем эмуляции коннектом. В разуме Эврима – паттерны, основанные на сотне человек, чьи коннектомы – сеть воспоминаний, телесное знание мира, все такое, – дистиллированы в одно нынешнее единство. Его создание – поистине чудо.

Ведущий ухватился за это и вмешался:

– Многие люди с вами не согласятся. Они считают это существо угрозой. В этом разговоре вы насмехались над страхом человечества перед развивающимся ИИ – но в итоге разве вы не создали именно развивающийся ИИ? Это же ваши заявления о создании первого обладающего самосознанием разумного ИИ все перевернули!

– Нет, – возразила Минервудоттир-Чан, – на самом деле мы ничего не переворачивали. Мы всего лишь прошли окончательный тест Тьюринга. Вот и все.

– Не уверен, что я вас понял.

– Мы стремились создать идеальный ИИ для взаимодействия с человеком. Мы приблизились к нему с нашими терапевтическими моделями – теми, что называют «половинками», но даже у них есть провалы, те места, где, как мы любим говорить у себя в лаборатории – «можно видеть ниточки». Большинство людей в разговоре с половинками до такого места не доходят, но всегда можно задать им такие вопросы, из-за которых имитация даст сбой. Мы говорим, что они «плоские». Еще одна метафора.

– Плоские.

– Да. Какой когда-то считали Землю. Если уплывешь достаточно далеко, то свалишься с краю. Но не Эврим. Он круглый. Эврим прошел заключительный тест Тьюринга.

– Я за вами не успеваю.

Минервудоттир-Чан пожала плечами.