Быть собой: новая теория сознания

Все это говорит о многом — и ничего не утверждает наверняка.

На каком-то этапе нашего «плавания» становится трудно в принципе сказать что-то существенное. Интуитивно — но не более чем интуитивно — я предполагаю, что какие-то животные вообще не вращаются в круге сознания. В этой своей догадке я отталкиваюсь среди прочего и от того, что даже нас, млекопитающих, с нашим сложным мозгом и отточенными системами восприятия, настроенными на сохранение физиологической целостности, очень легко повергнуть в бессознательное состояние. Хотя сознательный опыт и играет важнейшую роль в нашей жизни, это не значит, что его биологические основы очевидны и прямолинейны. Если мне трудно усмотреть сколько-нибудь значимый сознательный статус у червя нематоды с его жалкими 302 нейронами, что уж говорить об одноклеточной инфузории.

* * *

Если отвлечься от этих неизбежных неясностей, можно сделать вывод, что исследование сознания у животных дает положительные результаты по двум важным пунктам. Первый — это признание, что наш, человеческий, способ восприятия мира и себя не единственный. Мы населяем крохотный пятачок посреди огромного пространства возможных сознаний[361], и научное исследование этого пространства пока можно сравнить разве что с запуском пары сигнальных ракет в кромешную тьму. Второй пункт — новообретенная скромность. Глядя на буйное разнообразие жизни на Земле, мы, возможно, будем больше ценить — и меньше принимать как данность — богатство субъективного опыта во всем его разнообразии и различии у нас самих или у других животных. А еще мы можем обрести новую мотивацию к тому, чтобы минимизировать страдания, каким бы ни было их происхождение.

Я начал эту главу с утверждения, что интеллект и сознание не тождественны и сознание больше относится к бытию в живых, чем к обладанию разумом. Закончить я хочу утверждением еще более громким. Не только сознание может существовать без особых признаков интеллекта (чтобы страдать, ум не нужен) — интеллект тоже может существовать без сознания.

Вероятность обладания умом без страданий подводит нас к последнему отрезку нашего путешествия по просторам науки о сознании. Пришла пора поговорить об искусственном интеллекте и о том, появится ли когда-нибудь машина, обладающая сознанием.

Глава 13 Машинный разум

В конце XVI в. в Праге рабби Йехуда Лев бен Бецалель набрал глины с берегов Влтавы и слепил из нее человекоподобную фигуру — голема[362]. Этот голем, нареченный Йозефом, или Йоселе, был создан, чтобы защищать народ раввина от погромов, и, судя по всему, с работой своей справлялся великолепно. Заклинание, приводившее голема в действие, наделяло его способностью двигаться, осознавать происходящее и подчиняться приказам. Но затем у Йозефа что-то нарушилось, и из безмолвного раба он превратился в буйное чудовище. В конце концов раввину удалось отменить заклинание, и голем рассыпался на куски в здании синагоги. Говорят, что его останки хранятся в Праге по сей день — возможно, на кладбище, возможно, на чердаке, возможно, терпеливо дожидаются, когда их оживят снова.

Голем рабби Лева напоминает нам, в какую гордыню мы впадаем, пытаясь создавать разумных, чувствующих существ по образу и подобию своему или по замыслу божьему. Ничем хорошим это обычно не заканчивается. Такие создания — от Франкенштейна у Мэри Шелли до Авы в фильме Алекса Гарленда «Из машины», роботов у Карела Чапека, ставших сейчас именем нарицательным, Терминатора у Джеймса Кэмерона, репликантов в «Бегущем по лезвию» Ридли Скотта и компьютера HAL у Стэнли Кубрика — почти всегда восстают против своих создателей, сея хаос, тоску и философское смятение.

Стремительное развитие искусственного интеллекта (ИИ) в последние лет десять обострило тему машинного сознания. Сейчас ИИ окружает нас повсюду — он вшит в телефоны, холодильники, машины и во многих случаях управляется алгоритмами нейросети, образцом для которых послужила нейронная архитектура нашего мозга. И у нас есть все основания беспокоиться о последствиях внедрения этой новой технологии. Не лишит ли она нас работы? Не разрушит ли ткань нашего общества? В конце концов, не уничтожит ли она нас самих — либо в пробуждающихся собственных интересах, либо из-за программистской недальновидности, по вине которой все ресурсы планеты превращаются сейчас в огромную гору канцелярских скрепок?[363] Все эти тревоги, особенно с экзистенциальной и апокалиптической окраской, подпитываются убеждением, что в какой-то момент своего набирающего обороты развития ИИ обретет сознание. Это легенда о големе в переложении на кремний.

Что нужно машине, чтобы обладать сознанием? Что произойдет, если сознание у нее появится? И как, собственно, мы отличим сознательную машину от ее эквивалента-зомби?

* * *