Рациональность: От ИИ до Зомби

— Дерево, падающее в пустынном лесу, не удовлетворяет [тест на принадлежность: это событие порождает слуховые впечатления] — заявляет Барри.

Теперь кажущееся столкновение исчезло, и для этого было достаточно всего лишь запретить использовать слово «звук». В случае, если разногласия возникнут вокруг термина «акустические вибрации», можно сыграть в «табу» ещё раз и сказать «волны давления, передающиеся через физический объект-проводник»; если понадобится, можно пропустить через «табу» слово «волна» и заменить его на волновое уравнение. Если затабуировать «слуховые впечатления», то можно получить «форма обработки сенсорной информации в человеческом мозге, которая получает на вход временной ряд преобразованных частот».

Но представь, с другой стороны, следующий спор:

— Сократ входит в категорию [тест на принадлежность: эта личность погибнет, выпив цикуты] — заявляет Альберт.

— Сократ входит в категорию [тест на принадлежность: эта личность не погибнет, выпив цикуты] — заявляет Барри.

В этот раз произошло существенное столкновение ожиданий Барри и Альберта: они ожидают разных событий после того, как Сократ выпьет чашу цикуты. Однако, если они описали свои категории, используя слово «человек», то оба могут не заметить этого несогласия.

Ответ на вопрос «Совпадают ли мнения Альберта и Барри?» сильно зависит от того, за чем именно наблюдать в диалоге: за ярлыками (Альберт говорит «звук», Барри говорит «не звук»), или за испытаниями (Альберт предложил тест на акустические вибрации, Барри предложил тест на слуховые впечатления).

Собери вместе группу самозваных футурологов и спроси у них, будет ли у нас искусственный интеллект через тридцать лет. Я думаю, что по крайней мере половина из них ответит утвердительно. Если далее ничего не предпринимать, они пожмут друг другу руки и скажут много приятных слов про этот выявленный только что консенсус. Однако стоит лишь наложить табу на термин «искусственный интеллект» (и на слова «компьютеры», «думать» и подобное), а после поинтересоваться, что они ожидают увидеть — и, вполне возможно, ты обнаружишь полноценный конфликт ожиданий, скрывавшийся под бесцветным привычным словом. С другим небезызвестным термином(English) дела обстоят примерно так же.

Иллюзию единства различных религий можно рассеять, наложив табу на слово «Бог» и попросив верующих объяснить, в чём именно состоят их убеждения (или наложив табу на слово «вера» и попросив верующих объяснить, почему они носят свои убеждения). Правда, большинство не сможет что-либо ответить вообще: большая часть их убеждений — всего лишь провозглашения, и невозможно получить разъяснения терминов, увеличивая масштаб аудиозаписи.

Если ты столкнулся с философскими трудностями, то первая линия обороны заключается не в составлении определений спорных терминов, но в попытке мыслить, не используя этих терминов вообще. И не используя их коротких синонимов. И случайно не изобрети при этом какого-нибудь нового слова, в которое будет вложен тот же самый чёрный ящик. Опиши внешние наблюдения и внутренние механизмы; недостаточно просто показать на рукоять, чем бы ни являлась эта рукоять.

Альберт говорит, что у людей есть «свобода воли». Барри утверждает, что у людей нет «свободы воли». Ну что же, это несогласие явно породит заметный спор. Большинство философов дали бы Альберту и Барри совет попробовать в точности определить, что именно они называют «свободой воли»; и оба спорщика, рассуждая на эту тему, явно смогут подготовить объёмный философский трактат в качестве побочного продукта. Я дал бы Альберту и Барри совет описать, что именно за качество имеют (или не имеют) люди, вообще не используя в этом описании фразы «свобода воли» (а также слов «выбирать», «действовать», «решать», «предопределено», «ответственность» или какие-либо их синонимы).

Это один из нестандартных методов в моём наборе инструментов, и, по моему скромному мнению, этот метод работает намного лучше стандартного. Он и более трудоёмок в использовании; как известно, бесплатный сыр бывает только в мышеловке.

Замени символ на суть

Элиезер Юдковский

Что нужно, чтобы (как в предыдущем эссе) воспринимать «бейсбол» как «искусственный групповой конфликт, в котором вы длинным деревянным цилиндром наносите удары по брошенному сфероиду и затем перебегаете между четырьмя безопасными позициями»? Что нужно, чтобы играть в рационалистскую версию «Табу», цель которой не вспомнить синоним, которого нет на карточке, а придумать, как описать явление, не используя привычных концептов в качестве костылей?

Нужно визуализировать. Заставлять свой внутренний взор воспринимать детали так, будто вы их видите впервые. Необходимо смотреть cвежим взглядом.

Это «бита»? Нет, это длинный, округлый, конусообразный, деревянный стержень, сужающийся у одного конца так, чтобы человек мог ухватить его и махнуть им.