Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Что в этой будущей системе обработки информации можно считать сознательным в смысле привлечения субъективного опыта, и вообще есть ли в ней нечто подобное — тема спорная и увлекательная, мы к ней вернемся в главе 8. Если сознание требует, чтобы различные части системы имели возможность обмениваться друг с другом информацией, то у более крупных систем течение мыслей должно быть замедленным. В то время как вы или будущий суперкомпьютер размером с Землю может обдумать много мыслей за одну секунду, уму размером с галактику требуется 100 тысяч лет на одну-единственную мысль, а космическому разуму в миллиард световых лет в поперечнике хватит времени лишь на то, чтобы обдумать в общей сложности около десятка мыслей, прежде чем темная энергия раздерет его на несвязанные друг с другом части. С другой стороны, эти несколько драгоценных мыслей и сопровождающий их появление опыт могут оказаться очень глубокими!

Управление иерархиями

Если сама мысль организована в иерархию, охватывающую широкий диапазон различных масштабов, то что можно сказать о власти? В главе 4 мы обсуждали, как разумные сущности естественно организуются в силовые иерархии около состояния равновесия Нэша, и любая сущность будет выбракована, если изменит эту стратегию. Чем более хорошая технология переноса вещества и обработки информации достигается, тем больше может расти иерархия. Если однажды сверхразум достигнет космических размеров, то на что же будет похожа иерархия, обеспечивающая его власть? Будет ли такая иерархия предоставлять независимость своим децентрализованным частям или окажется предельно авторитарной? Будет ли взаимодействие опираться на взаимную выгоду или только на принуждение и угрозы?

Чтобы пролить свет на эти вопросы, давайте рассмотрим кнут и пряник по отдельности: какие существуют стимулы для сотрудничества в космических масштабах, и какие угрозы могут быть использованы, чтобы его обеспечить?

Управление с помощью пряника

На Земле одним из основных традиционных двигателей кооперации всегда была торговля, потому что относительная сложность производства одних и тех же вещей в разных местах планеты различна. Добыча килограмма серебра в одних местах обходится в 300 раз дороже добычи одного килограмма меди и всего лишь в 100 раз — в других. Поэтому обе стороны выигрывают при обмене 200 кг меди на 1 кг серебра. Если в каком-то регионе значительно лучше развита промышленность, то аналогичным образом обе стороны выиграют при обмене высокотехнологичных товаров на сырье.

Однако если сверхразум разработает технологии, с помощью которых можно легко переупорядочивать элементарные частицы в любую форму материи вообще, то это приведет к устранению основного стимула для ведения торговли на расстоянии. Зачем беспокоиться по поводу доставки серебра между двумя удаленными планетными системами, когда значительно проще и быстрее превращать медь в серебро, переупорядочивая частицы внутри атомов? Зачем беспокоиться по поводу доставки высокотехнологичной техники из одной галактики в другую, когда ноу-хау и сырье (а для этого сгодится любое вещество) имеются в наличии в обоих местах? Я полагаю, что в космосе, взятом под контроль сверхразума, почти единственным товаром, который стоит доставлять на большие расстояния, окажется информация. Единственным исключением может быть вещество, используемое в космических инженерных проектах — например, для противодействия вышеупомянутым разрушительным тенденциям темной энергии разрывать цивилизации. В отличие от традиционной человеческой торговли это вещество может пересылаться в любой удобной форме, даже в виде интенсивного излучения, так как принимающий его сверхразум способен быстро реорганизовать его в любые другие объекты по своему желанию.

Если обмен или торговля информацией выступает как главный мотор космического сотрудничества, то какого рода информация может для этого использоваться? Любая информация может оказаться ценной, если ее производство требует значительных вычислительных усилий и затрат времени. Например, сверхразуму могут потребоваться ответы на сложные научные вопросы о природе физической реальности, сложные математические задачи, теоремы и оптимальные алгоритмы, сложные инженерные вопросы о новых прорывных технологиях. Гедонистические формы жизни могут интересоваться впечатляющими разновидностями цифровых развлечений и симулированными переживаниями, а космическая коммерция может подогревать спрос на ту или иную форму космической криптовалюты в духе биткойна.