Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

В целом, я думаю, сознание — это физическое явление, которое воспринимает себя нефизическим потому, что оно подобно волне и вычислению: его свойства не зависят от его конкретного физического субстрата. Это логически следует из идеи представить сознание как информацию. Такое представление приводит к еще одной радикальной идее, которая мне решительно нравится: если сознание — это ощущение, возникающее при обработке информации определенным образом, то оно обязано быть не зависящим от субстрата — ведь значение имеет структура обработки информации, а не структура того вещества, в котором эта обработка производится. Другими словами, сознание оказывается дважды не зависящим от субстрата!

Как мы видели, физика описывает возмущения пространственно-временного континуума, которые соответствуют движущимся частицам. Когда конгломераты определенным образом организованных частиц подчинены определенным принципам, они порождают явления, которые мы называем эмергентными и которые очень мало зависят от порожденного частицами субстрата, и эти явления совершенно иначе воспринимаются. Яркий пример тому — обработка информации, или компьютрониум. Но теперь мы можем перенести эту идею на новый уровень: если обработка информации ведется в соответствии с определенными принципами, то результатом может оказаться эмергентное явление более высокого уровня, которое мы называем сознанием. Это помещает ваши субъективные переживания не на один, а на два уровня выше материи. Ничего удивительного, ваш дух ощущает себя нефизическим!

Но тогда возникает вопрос: каковы должны быть принципы, следуя которым, обработка информации становится сознанием? Я не претендую на знание всех достаточных условий, гарантирующих сознание, но есть четыре необходимых условия, на которые я делаю ставку и посвящаю им свои исследования:

Как я уже говорил, по-моему, сознание — это то, что испытывает информация, когда обрабатывается определенным образом. А значит, чтобы быть сознательной, система должна иметь возможность хранить и обрабатывать информацию, что подразумевают первые два принципа. Обратите внимание, что память не должна быть долгосрочной: я очень рекомендую посмотреть трогательное видео Клайва Уэринга о человеке, который выглядит совершенно сознательным, даже несмотря на то, что его воспоминания длятся меньше минуты^{116}. Я также думаю, что сознательная система должна быть достаточно независимой от всего остального мира, потому что в противном случае у нее не возникнет субъективного ощущения самостоятельного существования. Наконец, я думаю, что сознательная система должна быть интегрирована в единое целое, как утверждал Джулио Тонони, потому что если бы она состояла из двух независимых частей, то они чувствовали бы себя как две отдельные сознательные сущности, а не одна. Первые три принципа предполагают автономию: система способна хранить и обрабатывать информацию без заметного вмешательства извне, определяя тем самым свое собственное будущее. Все четыре принципа вместе означают, что система как целое автономна, но это не относится ни к одной из ее частей.

Если эти четыре принципа верны, то значит, для нас готова новая работа: нам надо найти строгие математические теории, в которых эти принципы были бы воплощены, и провести их экспериментальную проверку. Нам необходимо также проверить, не нужны ли какие-нибудь дополнительные принципы. Независимо от того, верна ли теория интегральной информации, исследователям надо попытаться разработать конкурирующие теории и проверить их все в самых совершенных экспериментах.

Споры о сознании

Мы уже обсуждали многолетние споры о том, стоит ли заниматься изучением сознания, не оборачивается ли оно с неизбежностью ненаучной чепухой и пустой тратой времени. Вдобавок к этому недавно начались споры на самом переднем крае исследований сознания — давайте изучим те из них, которые я считаю наиболее поучительными.