Искусственный ты. Машинный интеллект и будущее нашего разума

1. Эти сверхразумы происходят от существ, у которых когда-то были такие мотивации, как поиск пищи, избегание травм и хищников, продолжение рода, сотрудничество и конкуренция.

2. Формы жизни, по образу которых созданы эти сверхразумы, в процессе эволюции научились справляться с такими биологическими ограничениями, как медленная обработка информации и пространственные ограничения, связанные с телесным воплощением.

Могут ли эти черты породить качества, общие для членов многих сверхразумных инопланетных цивилизаций? Мне кажется, да.

Рассмотрим пункт 1. Разумную биологическую жизнь, как правило, заботит в первую очередь собственное выживание и размножение, так что и сверхразумные существа, созданные на основе биологических образцов, с высокой вероятностью должны иметь конечные цели, предусматривающие их собственное выживание и воспроизведение или, по крайней мере, выживание и воспроизведение членов их общества. Если эти сверхразумы заинтересованы в воспроизведении, то надо ожидать, что, учитывая имеющиеся у них масштабные вычислительные ресурсы, они создали бы виртуальные вселенные с искусственной жизнью и даже разумом или сверхразумом. Если эти создания задумывались как «дети разума», они тоже могли сохранить цели, обозначенные в пункте 1.

Аналогично, если сверхразум продолжает считать собственное выживание приоритетной целью, он не обязательно захочет фундаментально менять собственную архитектуру. Он может предпочесть серию небольших улучшений, которые постепенно приведут индивидуума к сверхразуму. Не исключено, что в результате размышлений над вопросом идентичности личности сверхразум на основе биологического образца почувствует потенциальную опасность и подумает: «Возможно, при фундаментальном изменении архитектуры я перестаю быть собой». Даже создание, загруженное в компьютер и не считающее себя идентичным существу, с которого оно скопировано, может не захотеть менять те качества, которые были наиболее важными для его биологического предшественника. Не забывайте, создания, загруженные в компьютер, являются изоморфами (по крайней мере, в момент загрузки), так что эти качества присущи и им, хотя бы первоначально. Сверхразумы, рассуждающие таким образом, могут предпочесть сохранить биологические черты.

Посмотрим теперь на пункт 2. Хотя я уже отмечала, что сверхразум на основе биологического образца не обязательно захочет фундаментально менять свою архитектуру, он сам или его конструкторы все же могут отойти от оригинальной биологической модели в непредсказуемых направлениях. Однако все равно есть смысл поискать в числе когнитивных способностей образца такие, которые было бы полезно сохранить, например те, что позволят сверхразуму достичь как конечной, так и промежуточных целей. Можно также поискать качества, которые не будут исключены при конструировании, поскольку не отвлекают сверхразум от его целей. Вот, например, что может получиться.