Быть собой: новая теория сознания

Смешайте все эти представления, и сразу станет понятно, почему многим кажется, что до сознательного ИИ буквально рукой подать и что нам нужно сильно опасаться его появления. Полностью исключать эту вероятность нельзя. Если адепты сингулярности окажутся правы, то нам действительно пора будет заволноваться. Но с той точки, где мы находимся сейчас, такая перспектива представляется крайне маловероятной. Гораздо более вероятна ситуация, показанная на рис. 21. Здесь сознание не определяется интеллектом, а интеллект может существовать и без сознания[365]. Оба имеют множество разновидностей и множество разных измерений и граней выражения, то есть ни для сознания, ни для интеллекта не существует единой мерки[366].

Рис. 21. Сознание и интеллект разделимы и многомерны, как можно судить по позициям животных и машин (действительных и вымышленных) на этой схеме

На этой схеме видно, что сейчас ИИ находится практически в самом начале оси интеллекта. Это потому, что пока неясно, считать ли имеющиеся системы ИИ разумными в каком бы то ни было значимом смысле. Большую часть современного ИИ правильнее всего характеризовать как высокоуровневое машинное распознавание образов, возможно слегка приправленное планированием деятельности. Эти системы, неважно интеллектуальные или нет, работают без каких бы то ни было проявлений сознания.

Дальше на этой же оси располагается декларируемая многими исследователями ИИ амбициозная цель — разработать системы со способностями общего интеллекта как у человека, так называемый общий искусственный интеллект, или общий ИИ. А за этой вехой лежит терра инкогнита постсингулярного интеллекта. Но ни на каком этапе этого пути нельзя гарантированно утверждать, что сознание «просто приложится». Более того, на свете может быть много разновидностей интеллекта, отличающихся от человеческого и при этом дополняющих, а не заменяющих или усиливающих наш видоспецифичный когнитивный инструментарий, — и они тоже могут обходиться без сознания.

Возможно, выяснится, что определенные разновидности интеллекта без сознания все же не обходятся, но даже если так, это не значит, что сознания — после преодоления какого-то пока еще неизвестного порога — требуют все варианты интеллекта. И наоборот, может статься, что все сознательные существа хотя бы немного разумны, если определять интеллект достаточно широко. Но и в этом случае он не превращается в ковровую дорожку к сознанию.

Компьютеры не станут чувствующими только оттого, что поумнеют. Однако это не значит, что машинное сознание невозможно в принципе. Не попробовать ли нам встроить в них сознание с самого начала? Что (если интеллекту мы в этой роли отказываем) понадобится нам, чтобы создать сознательную машину?

* * *

Ответ на этот вопрос зависит от того, что вы считаете достаточным для признания системы сознательной, а это, в свою очередь, зависит от теории сознания, которой вы придерживаетесь. Поэтому такой большой разброс мнений по поводу необходимых условий для наличия сознания неудивителен.

На самом либеральном полюсе этого спектра находятся рассуждающие с функционалистских позиций, полагающие, что главное в сознании — правильная обработка информации. Она не обязательно тождественна «интеллекту», и тем не менее это обработка информации, а значит, ее можно внедрять в компьютерах. Например, согласно концепции, изложенной в журнале Science в 2017 г., машину можно назвать сознательной, если ее способ обработки информации подразумевает «глобальную доступность» этой информации и «самомониторинг» исполнения. Из статьи нельзя понять, действительно такая машина будет сознательной или просто будет вести себя так, будто обладает сознанием[367], но в любом случае эта концепция строится на постулате, что для сознания достаточно правильного способа обработки информации.

Более веский довод в пользу сознательных машин выдвигают сторонники теории интегрированной информации (ТИИ). Как мы помним из главы 3, ТИИ утверждает, что сознание и есть интегрированная информация и что объем этой информации, который производит система, полностью определяется свойствами его внутренних механизмов — «причинно-следственной структурой». Согласно ТИИ, любая машина, создающая интегрированную информацию, из чего бы сама эта машина ни состояла и как бы ни выглядела, будет в какой-то степени обладать сознанием. Однако ТИИ не исключает вероятность, что машина будет казаться стороннему наблюдателю сознательной или разумной (или и такой, и другой одновременно), но ее механизмы не будут создавать никакой интегрированной информации, и поэтому о сознании тут даже речи не зайдет[368].