Быть собой: новая теория сознания

Почему мы вообще думаем, что машина — искусственный интеллект — может обрести осознанность? Как я только что сказал, принято, пусть и не повсеместно, считать, что сознание возникнет естественным образом, как только машина перешагнет некий неизвестный пока порог разумности. Но что движет этим представлением? Я думаю, оно опирается на две концепции, ни одну из которых нельзя назвать состоятельной. Первая касается необходимого условия для наличия сознания у чего бы то ни было. Вторая — достаточного условия для наличия сознания у конкретного объекта.

Первая концепция, касающаяся необходимого условия, — это функционализм. Функционализм утверждает, что сознание не зависит от того, сделана ли система из «железа» или «мяса», нейронов или кремниевых логических элементов (или глины с берегов Влтавы). С точки зрения функционализма главное — что эта система делает. В системе, которая правильно преобразует ввод в вывод, возникает сознание. Как я объяснял в главе 1, эта концепция разбивается на два отдельных подпункта: в первом речь идет о независимости от какого бы то ни было конкретного субстрата или материала, во втором — об адекватности взаимодействия ввода-вывода. В основном эти подпункты тесно связаны, но иногда их нужно рассматривать по отдельности.

Функционализм популярен среди специалистов по философии сознания и часто принимается в качестве позиции по умолчанию многими нефилософами. Но это не означает, что он верен. Я не вижу безоговорочных доводов ни за, ни против представления о том, что сознание независимо от субстрата или что все дело исключительно во взаимодействии ввода-вывода, в «обработке информации». Я отношусь к функционализму с агностической настороженностью.

Сознание у компьютера с искусственным интеллектом появится только в том случае, если функционализм все-таки состоятелен как теория. Это необходимое условие. Но состоятельность функционализма как таковая — это еще не все: одной только обработки информации для возникновения сознания недостаточно. Вторая концепция гласит, что та обработка информации, которой достаточно для появления сознания, лежит в основе интеллекта. Эта концепция подразумевает, что сознание и интеллект связаны самым тесным, даже, пожалуй, конститутивным образом, и поэтому сознание к разуму просто приложится.

Но эта концепция тоже довольно шаткая. Как мы видели в предшествующей главе, склонность объединять сознание с интеллектом восходит к пагубному антропоцентризму, в силу которого мы видим мир в кривом зеркале наших собственных ценностей и опыта. Мы сознательны, мы разумны и настолько превозносим свою самопровозглашенную разумность, что не способны отделить интеллект от статуса обладателей сознания, и наоборот.

Хотя интеллект предлагает богатую палитру разветвленных состояний сознания для сознательных живых существ, было бы ошибкой полагать разум (по крайней мере развитые его формы) необходимым или достаточным условием для сознания. Если мы продолжим исходить из того, что сознание по природе своей связано с интеллектом, то поспешим усмотреть сознание у искусственных систем, которые кажутся разумными, и отказать в нем другим системам (другим животным, например), которые не соответствуют нашим небесспорным человеческим критериям разумности.

За последние несколько лет эти концепции, касающиеся необходимости и достаточности, облепила и вынесла на передний край лавина прочих опасений и ложных представлений, придавая перспективе появления искусственного сознания излишнюю остроту и апокалиптический накал.

Перечислю некоторые из этих опасений. Одно из них заключается в том, что ИИ — неважно, обладающий сознанием или нет, — вот-вот выйдет из-под контроля и восторжествует над человеческим разумом, поднявшись до вершин, находящихся за пределами нашего понимания и контроля. Это так называемая гипотеза сингулярности, популяризированная футурологом Рэем Курцвейлом и движимая необычайным ростом первичных вычислительных ресурсов за последние несколько десятилетий[364]. Где мы находимся на кривой этого роста? Проблема с кривыми экспоненциального роста, как многие успели убедиться за пандемию коронавируса, состоит в том, что из любой точки на этой кривой кажется, что дальше она резко уходит вверх, а позади стелется почти полого, поэтому узкий взгляд не позволяет определить, где мы сейчас. Второе опасение — это прометеев страх, что наши создания так или иначе ополчатся на нас самих, — страх, который уловили и скармливают нам же в новой яркой обертке фантастические фильмы и литература. И наконец, опасения множит то прискорбное обстоятельство, что термин «сознание» лепится применительно к способностям машин как и куда попало. Некоторые, в том числе и ряд исследователей ИИ, готовы считать сознательным все, что откликается на стимулы, чему-то обучается или ведет себя так, чтобы максимизировать вознаграждение или достичь цели. На мой взгляд, это не более чем нелепая натяжка, нарушающая логику «обладания сознанием».