Рациональность: От ИИ до Зомби

Нахождение хорошей гипотезы о когнитивных алгоритмах (или хотя бы гипотезы, которая не развалится за полсекунды) — гораздо более сложно, чем просто опровергнуть философское замешательство. В действительности, это совершенно иное искусство. Держите это в уме, и вы будете чувствовать меньшее смущение, когда вам придётся говорить «Я знаю, что то, что вы говорите, не может быть истиной, и я могу доказать это. Но я не могу написать блок-схему, которая покажет, как ваш мозг совершает ошибку — я ещё не закончил и продолжу исследования».

Я говорю это, потому что иногда мне кажется, что как минимум 20% реальной эффективности тренированного рационалиста проистекает из того, что он не останавливается слишком рано(english). Если вы продолжите задавать вопросы, то рано или поздно вы доберётесь до пункта назначения. И наоборот, вы не доберётесь, если слишком рано решите, что ответ найден.

Проблема прежде всего в том, чтобы заметить своё замешательство, даже если оно еле заметно, и даже если кто-то рядом с вами настаивает, что люди имеют свободу воли, ухмыляется, и то, что вы не знаете в точности, как работают когнитивные алгоритмы, не имеет ничего общего с раскрытием всей глупости его мнения.

Но, когда вы разобрали когнитивный алгоритм на детали в достаточной мере для того, чтобы проследить весь процесс мысли шаг за шагом и описать, как возникает каждое интуитивное восприятие, разобрать замешательство на более мелкие части, которые сами по себе не вызывают замешательства — если вы проделали всё это, то вы справились с вопросом.

Будьте готовы к тому, что вы можете поверить в то, что вы справились, когда всё, что вы имеете — это триумфальное отрицание ошибки.

Но когда вы действительно справитесь, вы узнаете об этом. Распутывание вопроса вызывает чувство, которое вы ни с чем не спутаете, после того как столкнётесь с ним впервые, и столкнувшись с ним, решите не попадать впросак снова. Спящие не знают, что они спят, но когда вы проснётесь, вы поймёте, что не спите(english).

То есть: когда вы справились с задачей, вы узнаете, что вы с ней справились, но, к сожалению, не наоборот.

И вот проблема в качестве домашнего задания: какой тип когнитивного алгоритма, как он чувствуется изнутри, породит рассмотренный спор о «свободе воли»?

Ваша задача не спорить о том, имеют ли люди свободу воли или нет.

Ваша задача не рассуждать о том, совместима ли свобода воли с детерминизмом или нет.

Ваша задача не доказывать, что вопрос плохо поставлен, или что концепция противоречива, или что нет проверяемых следствий.

Я не прошу вас изобрести эволюционное объяснение тому, как размножались люди, верившие в свободу воли, или рассуждать о том, что концепция свободы воли выглядит подозрительно совпадающей с искажением X. Всё это будет не более чем попыткой объяснить, почему люди верят в «свободу воли», а не то, как они это делают.

Ваше домашнее задание — выписать содержимое стека внутренних алгоритмов человеческого ума, когда они порождают интуицию, питающую весь этот чёртов философский спор.

Это одна из первых реальных проблем, с которой я, как целеустремлённый рационалист, когда-то столкнулся. Одна из более простых головоломок, относительно говоря. Она может точно так же послужить и вам.

Неверные вопросы

Элиезер Юдковский

Когда мозг вгрызается в проблему под неверным углом, он начинает задавать «неверные вопросы» — вопросы, на которые невозможно дать ответ в терминах вопроса. Такие вопросы можно лишь распутать, разложить на составляющие, выяснив какой когнитивный алгоритм порождает «ощущение» вопроса, и каким образом он это делает.

Отличным намёком на то, что вы столкнулись с «неверным вопросом» является то, что вы не можете даже представить какое-нибудь определённое специфическое устройство мира, которое бы дало ответ на этот вопрос. Когда такое случается, не видно самой возможности найти ответ.

Возьмите, например, Стандартный Спор об Определениях о дереве, падающем в заброшенном лесу. Можно ли представить себе какое-нибудь устройство этого мира, какое-нибудь положение дел, при котором слово «звук» действительно означает только акустические вибрации или действительно означает только пережитый опыт восприятия звука?

(Кто-то может сказать: «Да, это такое положение дел, при котором слово «звук» означает акустические вибрации». В таком случае, табуируйте слова «означает», «представляет» и все похожие синонимы, и попробуйте описать заново: каким должен быть мир, чтобы одна из сторон была бы права, а другая ошибалась?)

Или, если это кажется слишком просто, рассмотрите свободу воли: какое конкретное положение дел — в детерминированной физике или в физике со случайным компонентом — может соответствовать наличию свободы воли?