Быть собой: новая теория сознания

Именно поэтому в июне 2019 г. немецкий философ Томас Метцингер призвал немедленно объявить 30-летний мораторий на все исследования, направленные на формирование «синтетической феноменологии», как он ее обозначил[385]. Я присутствовал при этом заявлении. Мы оба выступали на конференции, посвященной искусственному сознанию, которую устраивал в Кембридже Центр Леверхульма по изучению будущего интеллекта. Призыву Метцингера трудно было бы последовать буквально, поскольку под его действие подпадает едва ли не все компьютерное моделирование в психологии, но идея понятна. Мы не должны бездумно ломиться вперед, пытаясь создать искусственное сознание просто потому, что нам это кажется интересным, полезным или крутым. Самая лучшая этика — профилактическая.

В дни расцвета витализма рассуждения об этике искусственной жизни казались, наверное, такими же нелепыми и надуманными, какими сейчас могут показаться рассуждения об этике искусственного сознания. И тем не менее прошло всего сто с небольшим лет, и у нас имеется не только глубокое понимание основ жизни, но и множество новых инструментов для ее модификации и даже создания. Мы владеем технологиями генной инженерии, такими как CRISPR, позволяющими с легкостью менять последовательности ДНК и функцию генов. Мы научились разрабатывать полностью синтетические организмы «с нуля», с генетического уровня: в 2019 г. кембриджские исследователи создали вариант бактерии Escherichia coli с полностью синтезированным геномом. Вопросы этичности создания новых форм жизни приобретают неожиданную остроту[386].

И возможно, именно биотехнологии, а не ИИ удастся максимально приблизить нас к синтетическому сознанию. Здесь особый интерес представляет такая разработка, как «органоиды головного мозга», — созданные из настоящих нейронов крошечные мозгоподобные структуры, которые выращиваются из человеческих плюрипотентных стволовых клеток (то есть тех, из которых способны развиться самые разные типы клеток организма). Эти органоиды, хотя и не являются «мини-мозгом» в буквальном смысле, все же обладают сходством с развивающимся мозгом, что позволяет использовать их как лабораторные модели медицинских состояний, при которых развитие мозга нарушается. Могут ли органоиды обладать примитивной разновидностью бестелесной осознанности? Исключать эту вероятность нельзя, тем более что у них зафиксированы согласованные волны электрической активности, напоминающие, как выяснилось в ходе недавнего исследования, аналогичные волны, наблюдаемые у недоношенных младенцев[387].

Органоиды головного мозга состоят, в отличие от компьютеров, из того же материала, что и настоящий мозг, поэтому факторов, мешающих нам считать их потенциальными обладателями сознания, в данном случае на один меньше. Однако они все так же крайне просты, абсолютно бестелесны и совершенно не взаимодействуют с окружающим миром (хотя их можно подключать к камерам, автоматическим конечностям и тому подобным устройствам). На мой взгляд, даже если вероятность сознания у нынешних органоидов не особенно велика[388], по мере развития данной технологии эту вероятность будет все труднее сбрасывать со счетов. И тут мы возвращаемся к необходимости профилактической этики. Этические вопросы актуальны тут не только потому, что вероятность сознания у органоидов нельзя исключить полностью, но и в силу потенциального размаха самих разработок[389]. Как выразился ведущий эти исследования ученый Алиссон Муотри, «мы хотим создавать целые фермы таких органоидов»[390].

* * *

Чем манит нас перспектива развития машинного сознания? Почему она так будоражит коллективное воображение? Я прихожу к выводу, что здесь включается какой-то техноэкстаз, подспудное желание выйти за рамки нашего ограниченного и низменного биологического существования в преддверии наступления последних дней. Возможность появления сознательных машин влечет за собой возможность перенести свой сознательный разум из дряхлеющей телесной оболочки в новехонькие схемы будущего суперкомпьютера, которому не грозят старость и смерть. Перенос сознания — излюбленный мотив футурологов и трансгуманистов, считающих, что одной жизни человеку мало[391].

Кому-то кажется даже, что этот рубеж мы уже преодолели. Оксфордский философ Ник Бостром в своем «Доказательстве симуляции» разбирает на статистической модели предположение, что мы с большой долей вероятности уже не выступаем представителями изначального рода человеческого, а участвуем в хитроумной компьютерной симуляции, разработанной и воплощенной нашими технологически более подкованными потомками, одержимыми генеалогией. С этой точки зрения мы уже являем собой виртуальных чувствующих агентов виртуальной вселенной[392].