Искусственный ты. Машинный интеллект и будущее нашего разума

В частности, в соответствии с ней, доведись нам встретить продвинутых инопланетных существ, мы обнаружим, что сознание их сродни нашему в одном важном отношении – они тоже будут внутренне ощущать себя собой. Как уже говорилось, во время бодрствования и даже во время сна мы ощущаем себя собой. Точно так же ощущает себя и биологический инопланетянин, если он существует, – по крайней мере мы предполагаем это. Но будут ли у сверхразумного искина осознанные переживания? И если они у него будут, сможем ли мы это понять? И как его внутренняя жизнь (или ее отсутствие) влияет на способность к эмпатии и цели? Представление об интеллекте без прикрас не единственное, что следует учитывать, когда думаешь о контакте с инопланетянами.

Эти аспекты мы подробно рассматривали в предыдущих главах, и теперь можно оценить их космическое значение. Я уже отмечала, что вопрос о том, может ли у искина быть внутренняя жизнь, должен стать ключом к тому, насколько мы ценим его существование, поскольку в центре решения, является ли та или иная сущность личностью и есть ли у нее «я», находится сознание. Искин может быть сверхразумным и превосходить людей по всем когнитивным и перцептивным аспектам, но, если он не ощущает себя искином, нам трудно считать, что эти создания обладают такой же ценностью, что и самосознающие существа, которые имеют «я» и являются личностями. И наоборот, в наличии или отсутствии у искина сознания кроется ключ к тому, как он оценивает нас: самосознающий искин может распознать у нас способность к осознанным переживаниям.

Ясно, что вопрос машинного сознания принципиально важен для того, как люди будут реагировать на обнаружение сверхразумных инопланетян. Один из путей препарирования последствий контакта человечеством – обращение к религии. И хотя я не уверена, могу ли говорить от имени всех мировых религий, разговоры с коллегами, работающими в Центре теологических исследований в Принстоне, позволяют предположить, что многие из них отвергли бы идею о том, что искины имеют душу или созданы по образу и подобию Бога, в случае отсутствия у них сознания. Папа римский Франциск не так давно заметил, что согласился бы крестить инопланетянина[86]. Хотела бы я знать, как отреагировал бы он на просьбу окрестить искина, тем более такого, который не способен обладать сознанием.

Вопрос о том, нравятся ли инопланетянам закаты или есть ли у них душа, нельзя считать просто плодом романтического любопытства – для нас это экзистенциальный вопрос. Ведь даже если во Вселенной полно искинов невероятного интеллекта, то с чего бы этим машинам придавать какую-то ценность самосознающим биологическим разумам? Не обладающие сознанием машины не могут осознанно воспринимать мир, а не имея осознанности, они, возможно, не способны на подлинную эмпатию или хотя бы на рассудочную заботу о более примитивных существах.

Сверхразум на основе биологического образца

До сих пор я мало говорила о структуре сверхразумного инопланетного сознания. Причина проста: сверхразум по определению превосходит человеческий разум во всех отношениях. Мы не в состоянии предсказать или до конца понять, как такой разум мыслит. Тем не менее у нас все же есть возможность обрисовать несколько важных его характеристик, по крайней мере в общих чертах.

В недавней книге Ника Бострома внимание сосредоточено на развитии сверхразума на Земле, но мы можем извлечь немало полезного из его вдумчивого рассказа. Бостром различает три типа сверхразума.

Скоростной сверхразум: сверхразум, обладающий крайне быстрой когнитивной и перцептивной реакцией. Например, даже эмуляция человека или загрузка его разума в компьютер позволили бы, в принципе, работать так быстро, что на написание кандидатской диссертации потребовался бы всего час.

Коллективный сверхразум: отдельные единицы его не обязательно сверхразумны, но коллективно они намного превосходят интеллект любого отдельного человека.

Качественный сверхразум: интеллект, который производит вычисления по крайней мере со скоростью мысли людей и, кроме того, умнее людей во всех отношениях[87].

Бостром указывает, что каждый из этих типов сверхразума может существовать наряду с другими.

Большой вопрос, можно ли назвать общие цели, разделяемые всеми типами сверхразума. Бостром предлагает следующий тезис: