2062: время машин

Австралийский философ Дэвид Чалмерс назвал сознание трудной проблемой. Некоторые даже поспорили, что проблема чересчур тяжелая для наших ограниченных умов или что она располагается за границей научного знания. Чалмерс считает, что сознание будет в конце концов описано наукой, но в 1995 году он утверждал, что мы упускаем что-то важное: «Для учета сознательного опыта нам необходим дополнительный ингредиент в объяснении. Это ставит непростую задачу перед теми, кто всерьез намерен изучить этот вопрос. Что составляет этот дополнительный ингредиент и почему именно он должен считаться сознательным опытом?»[42].

Некоторое время спустя он отметил следующее: «Сознание – самая сложная проблема во всем изучении разума. Нет ничего, что мы понимаем лучше, чем сознательный опыт, но нет также ничего, что нам было бы труднее объяснить. Все виды ментальных феноменов были покорены наукой в последние годы, однако сознание все еще упрямо сопротивляется. Многие пытались его объяснить, но эти объяснения никогда не попадали в яблочко»[43].

У нас нет инструментов, с помощью которых можно было бы измерить сознание. Насколько мы можем судить, ни одна часть нашего мозга не отвечает за него. Каждый из нас понимает, что он сознателен, и, учитывая наше биологическое родство, предполагает, что другие так же сознательны.

Ограниченным уровнем сознания в нашем понимании обладают даже некоторые животные. Собаки отчасти сознательны, кошки тоже. Однако немногие из нас полагают, что муравьи тоже входят в эту группу. Если посмотреть на те машины, которые мы создаем сегодня, то станет очевидно, что у них нет никакого сознания.

AlphaGo не проснется однажды утром и не подумает: «Знаете что? Вы, люди, совсем не умеете играть в го. Заработаю-ка я немного денег на онлайн-покере вместо этого». Вообще говоря, AlphaGo даже не знает о том, что играет в го. Она вечно будет делать только одно – максимизировать вероятность собственной победы в данной конкретной игре. И уж точно она не проснется и не подумает: «Вообще-то я устала играть в игры. Пора бы мне захватить планету». У AlphaGo нет других задач, кроме как стремиться к максимальной вероятности собственного выигрыша. У нее нет желаний. Она навсегда останется программой для игры в го. Она не будет расстраиваться из-за поражения или радоваться победе.

Однако быть уверенным в том, что ситуация не изменится, нельзя. Возможно, в будущем мы создадим машины, которые будут обладать сознанием. Для того чтобы компьютеры соблюдали определенную этику, важно, чтобы они рефлексировали над собственными решениями. Чтобы функционировать в таком быстроменяющемся и непостоянном мире необходимо создавать машины с ясной целью и способностью размышлять над тем, как ее добиться или адаптировать. Таков путь к появлению сознательной машины.

Сознание – настолько важная часть нашего существования, что следует задуматься, не она ли дала нам такое серьезное эволюционное преимущество. Наши сложные общественные системы работают отчасти потому, что мы понимаем, как думают другие. Если для нас сознание стало таким преимуществом, то машинам оно, вероятно, тоже пригодится.

Сознательные машины

Есть три сценария обретения, по которым машины могут обрести сознание: оно может быть запрограммировано, может появиться само в результате усовершенствования компьютеров или может быть ими усвоено.

Первый путь выглядит менее вероятным. Как запрограммировать нечто, что мы сами едва понимаем? Возможно, достаточно будет добавить исполнительный слой, который станет отслеживать действия и размышления компьютера. Однако, вероятно, нам придется подождать, пока мы сами не начнем понимать этот феномен лучше, прежде чем его программировать.

С другой стороны, необходимости в том, чтобы закладывать в компьютер сознание снаружи, может и не быть. Есть вероятность, что оно появится само собой. У нас есть множество примеров таких самозарождающихся феноменов в сложных системах. Жизнь, например, возникла сама в условиях сложной Вселенной. Точно так же сознание может возникнуть внутри сложной машины. В природе сознание совершенно точно возникает именно в сложно устроенных мозгах. Однако мы знаем о нем так мало, что всерьез обсуждать подобную возможность не имеет смысла.

Третий вариант – что машины научатся быть сознательными, – тоже имеет под собой основания. Часть нашего, вероятно, тоже была усвоена в процессе. Сразу после рождения наше сознание ограничено. Например, нам доставляет удовольствие изучать собственные пальцы на ногах. Проходят месяцы, прежде чем мы понимаем, что наше отражение в зеркале – это мы. Если мы научились осознавать себя, то почему машина не сможет этого сделать?