Быть собой: новая теория сознания

Хотя ни та ни другая теория не отождествляет сознание с интеллектом, обе допускают, что машины, удовлетворяющие определенным условиям — правильному способу обработки информации или ненулевой информационной интегрированности, — будут обладать сознанием. Но, конечно, чтобы согласиться с этими допущениями, нужно принимать и сами теории.

* * *

Теория животного-машины основывает восприятие нами мира и себя на биологическом стремлении к физиологической целостности — к тому, чтобы оставаться живым. Что говорит эта теория о вероятности появления сознательных машин?

Представьте себе робота из ближайшего будущего — с кремниевым мозгом и человекоподобным телом, оснащенного всевозможными датчиками и эффекторами (исполняющими элементами). Этот робот управляется искусственной нейросетью, разработанной по принципам прогнозной обработки и активного вывода. Поток сигналов, проходящих через его контуры, воплощает порождающую модель его среды и его собственного тела. Робот постоянно обращается к этой модели, выдвигая наиболее вероятные байесовские предположения об источниках и причинах своей входящей сенсорной информации. Эти синтетические контролируемые (и контролирующие) галлюцинации направлены по замыслу своему на то, чтобы поддерживать оптимальное функциональное состояние робота, то есть позволять ему оставаться, по его собственным представлениям, «живым». У него имеются даже искусственные интероцептивные входящие данные, сигналящие об уровне заряда его батарей и целостности его приводных механизмов и синтетических мышц. Ориентированные на контроль наиболее вероятные предположения об этих интероцептивных входящих данных генерируют синтетические эмоциональные состояния, которые направляют и мотивируют его поведение.

Этот робот действует независимо, делая то, что нужно, тогда, когда нужно, чтобы выполнить свои задачи. Тем самым внешне он производит впечатление разумного, чувствующего деятеля. Внутренние же его механизмы непосредственно сопоставимы с прогнозным аппаратом, который, как я предполагаю, находится в основе базового чувства телесного воплощения и ощущения себя собой у человека. То есть перед нами кремниевая машина-животное.

Обладает ли такой робот сознанием?

Неудовлетворительный, но честный ответ: наверняка я сказать не могу, но предполагаю, что нет. Из теории животного-машины следует, что сознание у человека и других животных развилось в ходе эволюции, возникает у каждого из нас в ходе онтогенеза (индивидуального развития особи) и в своей непрерывной работе тесно сопряжено с нашим статусом живой системы. Все наше восприятие и все наши ощущения продиктованы нашей природой автономных самоподдерживающихся живых машин, которым важно и дальше оставаться живыми. Я предполагаю (и снова это не более чем интуитивное предположение), что материальная сторона жизни окажется важна для всех проявлений сознания. Одно из оснований так полагать заключается в том, что побуждение к регуляции и самоподдержанию в живых системах не ограничено единственным уровнем, таким как сохранение целостности организма. Самоподдержание у живых систем пронизывает все уровни, вплоть до клеточного. Каждая клетка нашего тела (и какого угодно другого) постоянно воспроизводит условия, необходимые для дальнейшего поддержания ее целостности[369]. Этого нельзя сказать ни о каком компьютере — ни современном, ни ожидающемся в ближайшем будущем — и даже о тех кремниевых животных-машинах, которые я описывал выше.

Из этого не стоит делать вывод, будто я утверждаю, что клетки организма обладают сознанием или что сознание имеется у всех живых существ. Моя мысль состоит в том, что процессы физиологической регуляции, которые теория животного-машины считает фундаментальными для сознания и ощущения себя собой, вырастают из основополагающих жизненных процессов, отмечаемых «на всех уровнях». С этой точки зрения искру сознания в уравнениях высекает жизнь, а не обработка информации.

* * *

Даже если до машин, действительно обладающих сознанием, еще далеко (если, собственно, они на самом деле возможны), нам все равно еще о многом нужно беспокоиться. Вполне вероятно, что в ближайшем будущем уровень развития ИИ и робототехники приведет к появлению новых технологий, которые будут казаться сознательными, даже если у нас не будет безоговорочных оснований считать их сознательными на самом деле.

В фильме Алекса Гарленда «Из машины» 2014 г. нелюдимый технический гений-миллиардер Нейтан приглашает крутого программиста Калеба в свою уединенную резиденцию и знакомит со своим творением — любознательным умным роботом Авой. Задача Калеба — выяснить, наделена ли Ава сознанием, или она просто умный автомат, не имеющий внутренней психической жизни.