Город Перестановок

Полу в то время было двадцать четыре года, и он представления не имел, куда себя девать. Отец умер год назад, оставив ему скромную деловую империю, построенную вокруг процветающей сети розничных магазинов, к управлению которой Пол не питал ни малейшего интереса. Семь лет он потратил на путешествия и учёбу: естественные науки, история, философия, — вполне сносно преуспевая во всём, за что брался, но так и не обнаружив ничего, зародившего бы в нём настоящую интеллектуальную страсть. Бороться за обеспеченность не приходилось, и он потихоньку погружался в состояние мечтательного умиротворения.

Известие о Копии Джона Вайнса взорвало его безразличие. Будто все технологии с сомнительными перспективами, сулившие преображение человеческой жизни, осуществились враз, да ещё с избытком. Долгая жизнь станет лишь началом, Копии смогут эволюционировать путями, почти недоступными для органических существ: изменять своё мышление, определять новые цели, бесконечно преображать самих себя. Возможности опьяняли — несмотря на постепенное проявление издержек и недостатков первоначальных версий, несмотря на неизбежное сопротивление общества. Пол, дитя нового тысячелетия, был готов принять всё и разом.

Но чем больше времени он проводил, обдумывая сделанное Вайнсом, тем более странными представлялись выводы.

Дискуссии в обществе, порождённые экспериментом, оказались горячими, но удручающе поверхностными. Вновь бушевали длившиеся десятилетиями старые споры о том, много ли общего компьютерная программа может иметь с человеком (с точки зрения психологии, морали, метафизики, теории информации…) и даже могут ли Копии считаться мыслящими и сознающими себя «на самом деле». По мере того как другие исследователи воспроизводили эксперимент Вайнса, их Копии вскоре начали проходить тест Тьюринга: ни одна группа специалистов, проводившая опрос группы людей и Копий (по видеосвязи с замедлением, чтобы замаскировать разницу в восприятии времени), не смогла распознать, кто из них кто. Однако некоторые философы и психологи продолжали настаивать, что это демонстрирует лишь «симуляцию сознания», а Копии — просто программы, способные детально изобразить внутреннюю жизнь, в действительности не существующую.

Сторонники гипотезы «сильного искусственного интеллекта» настаивали, что сознание — функция определённых алгоритмов, результат конкретных способов обработки информации, независимо от того, какая машина или орган использованы для выполнения этой задачи. Компьютерная модель, манипулирующая данными о самой себе и своём «окружении» точно так же, по сути, как и органический мозг, неизбежно приобретёт те же ментальные свойства. «Симуляция сознания» — такой же оксюморон, как «симуляция арифметики».

Противники возражали, что от моделируемой грозы ещё никто не промок. Моделируемая ядерная электростанция не вырабатывает ни ватта энергии. Модели пищеварения и метаболизма не потребляют питательных веществ — ничего на самом деле не переваривается. Так откуда уверенность, что в модели человеческого мозга должны возникнуть настоящие мысли? Возможно, компьютер, в котором функционирует Копия, и способен генерировать достоверное описание поведения человека в произвольном гипотетическом сценарии. Может даже показаться, будто он поддерживает разговор, поскольку верно предсказывает, что сказал бы человек в аналогичной ситуации. Однако едва ли сама машина при этом что‑то осознаёт.

Пол быстро решил, что весь этот спор лишь рассеивает внимание. Доказать с полной достоверностью наличие разума у Копии хоть одному человеку невозможно. Для Копии же оно и так очевидно: cogito ergo sum. Дискуссия окончена.

Для людей же, готовых допустить наличие разума у Копий на основе тех же логических рассуждений, каковые заставляли предполагать его у собратьев по виду, — и для Копий, готовых ответить им тем же, — суть дела заключалась совсем в другом.

Были кое‑какие вопросы о природе этого общего качества, которые появление Копий высветили резче, нежели что бы то ни было ранее. Вопросы, которые требовалось исследовать, прежде чем человеческая раса сможет с уверенностью передать свои воспоминания, свою культуру, цели и сущность наследникам.

Вопросы, на которые могла ответить лишь Копия.

* * *

Пол сидел в своём кабинете, в любимом кресле (он не был уверен, что фактура обшивки воспроизведена точно) и утешался, как мог, пониманием полной нелепости всех страхов перед дальнейшими экспериментами на самом себе. Он уже «пережил перенос» из плоти и крови в компьютерную физиологическую модель, радикальностью далеко превосходящий прочие стадии проекта. По сравнению с этим подстройка некоторых параметров модели должна была представляться ерундой.