Начало бесконечности

А вот связанный с этим, но более сильный нравственный вопрос. Возьмём мощный компьютер и с помощью квантового генератора случайных чисел присвоим каждому биту случайным образом значение 0 или 1. (Это означает, что 0 и 1 возникают в историях с равной мерой.) В этот момент всё возможное содержимое памяти компьютера существует в мультивселенной. Поэтому с необходимостью должны присутствовать истории, в которых в компьютере содержится программа, реализующая искусственный интеллект, — а на самом деле все такие возможные программы во всех возможных состояниях, вплоть до размера, который может поместиться в памяти компьютера. Некоторые из них являются достаточно точным представлением вас, живущих в среде виртуальной реальности, которая грубо напоминает ваше реальное окружение. (У современных компьютеров не хватает памяти для того, чтобы точно смоделировать реалистичную окружающую среду, но, как я говорил в главе 7, я уверен, что этой памяти больше чем достаточно, чтобы смоделировать человека.) Там также есть люди, страдающие, как это только возможно. Итак, вопрос заключается в том, будет ли неправильным включить компьютер и сделать так, что он будет выполнять все эти программы одновременно в разных вариантах истории? Будет ли это самым ужасным преступлением в истории человечества? Или это просто не рекомендуется делать, потому что общая мера всех историй, в которых есть страдание, очень мала? Или это безобидно и тривиально?

Ещё более сомнительный пример рассуждения антропного типа — это аргумент Судного дня. В нём ожидаемая продолжительность жизни нашего вида оценивается в предположении, что среднестатистический человек стоит, грубо говоря, где-то в середине ряда всех людей. Значит, следует ожидать, что общее число тех, кто когда-либо будет жить, примерно в два раза больше числа тех, кто уже жил. Конечно, это пророчество и уже только по этой причине, наверно, не может быть веским аргументом, но я попробую вкратце рассмотреть его в его же собственных понятиях. Во-первых, его вообще нельзя применять, если общее число людей будет бесконечным, ведь в таком случае каждый, кто жил, будет стоять необычайно близко к началу этого ряда. Таким образом, если уж на то пошло, этот аргумент предполагает, что мы стоим у начала бесконечности.

Кроме того, сколько живёт человек? Вскоре — в течение нескольких поколений — мы избавимся от болезней и старения, а технологии смогут предотвращать смерть в результате убийства или от несчастных случаев за счёт создания резервных копий состояний мозга, которые можно будет загружать в новый, чистый мозг идентичного тела, если человек умрёт. Как только такая технология будет доступна, люди будут считать, что не создавать резервные копии себя часто — гораздо глупее, чем сейчас не создавать резервные копии компьютерных дисков. Эволюции уже будет достаточно, чтобы гарантировать это, потому что те, кто не делает резервных копий себя, постепенно вымрут. Поэтому может быть только один исход: фактическое бессмертие всей популяции человека, причём теперешнее поколение — одно из последних, у которого будут короткие жизни. В таком случае если у нашего вида тем не менее будет конечная продолжительность жизни, то знание, сколько всего будет жить людей, никак не ограничит эту продолжительность сверху, потому что оно не может сказать нам, как долго потенциально бессмертные люди будущего успеют прожить до наступления предсказанной катастрофы.

В 1993 году математик Вернор Виндж написал важное эссе под названием «Технологическая сингулярность» (The Coming Technological Singularity), в котором он оценил, что где-то в течение тридцати лет предсказать будущее технологий станет невозможно — это событие теперь называют просто сингулярностью. Виндж связывал приближающуюся сингулярность с реализацией искусственного интеллекта, и последующее обсуждение строилось на этом. Безусловно, я надеюсь, что к тому времени искусственный интеллект будет реализован, но пока ничто не указывает на теоретический прогресс, который, как я считаю, должен появиться прежде. С другой стороны, я не вижу причины выделять искусственный интеллект как ломающую стереотипы технологию: у нас уже есть миллиарды людей.