Шум. Несовершенство человеческих суждений

Итак, некоторые попытки снизить шум вызывают серьезную озабоченность, и чаще всего потому, что мы видим их последствия: тяжело и почти невозможно рассчитывать на справедливое слушание. Использование алгоритмов и самообучающегося искусственного интеллекта представляет подобные возражения в новом свете, и мы с вами уж точно не увидим на улицах демонстраций с лозунгами «Даешь алгоритмы!»

Критические замечания поступают от таких авторитетов, как Кейт Стит из Йельской школы права и федеральный судья Хосе Кабранес, начавших решительную атаку на методические рекомендации при вынесении приговоров. В каком-то смысле это критика и наших основных аргументов. Выступления Стит и Кабранеса ограничиваются уголовной сферой, однако их основные тезисы могли бы стать возражениями против многих стратегий снижения шума в образовании, бизнесе, спорте и в иных областях. Вот о чем они говорят: «Методические рекомендации по вынесению приговоров приводятся в действие страхом перед правом усмотрения, перед независимыми суждениями. Их толкает вперед вера в научно-технических экспертов и централизованное планирование». Стит и Кабранес аргументируют свои взгляды тем, что страх перед вынесением независимого суждения в итоге приводит к фактическому запрету рассмотрения индивидуальных особенностей каждого дела, и считают³⁹⁶, что ни одно механическое решение не сможет удовлетворить потребность человека в правосудии.

Каждый из приведенных аргументов подлежит изучению. Что касается вопросов, требующих различных суждений, люди нередко полагают, что «требования справедливости» исключают механические решения любого рода. Следовательно, они выступают за разрешение или даже возведение в принцип процессов и подходов, гарантированно приносящих с собой шум. Многие настаивают на необходимости уделять внимание обстоятельствам каждого конкретного дела. По отношению к больницам и школам, крупным и маленьким компаниям подобный призыв становится, по сути, призывом к использованию интуиции. Мы уже видели, что гигиена принятия решений включает в себя разнообразные стратегии снижения шума, не подразумевающие чисто механических оценок. Если специалист раскладывает проблему на несколько компонентов, это не значит, что в итоге он выносит механическое суждение. Даже отдавая себе в этом отчет, далеко не все приветствуют применение стратегий гигиены в принятии решений.

Ранее мы дали определение шуму, назвав его «нежелательной вариативностью». Если какое-либо явление нежелательно, его следует устранить. Однако, ограничившись этим, мы безосновательно упростим сложный и интересный анализ. При прочих равных условиях шум – действительно явление нежелательное. Только условия могут быть неравными и затраты на подавление шума превысят потенциальные выгоды. И даже когда анализ показывает, что воздействие шума обойдется дорого, его подавление может вызвать целый спектр серьезных и даже неприемлемых последствий.

Против снижения или устранения шума приводятся семь основных возражений.

Первое: снижение шума бывает сопряжено с такими затратами, что овчинка выделки не стоит. Требуемые меры могут быть чрезвычайно обременительны, а в ряде случаев и вовсе невыполнимы.

Второе: некоторые стратегии, вводящиеся в целях снижения шума, сами могут генерировать ошибки, а порой и системное смещение. Если все аналитики одного из ведомств сошлись на излишне оптимистическом прогнозе – их мнение не «зашумлено» и в то же время неверно. Если все доктора в больнице выписывают аспирин независимо от заболевания, их суждения также не «зашумлены», однако во многих случаях ошибочны.

С этими двумя возражениями мы разберемся в главе 26. В главе 27 мы ознакомимся со следующими пятью аргументами, которые широко распространены и неоднократно приводились за прошедшие годы по мере роста доверия к жестким правилам, алгоритмам и искусственному интеллекту.

Итак, третье: если мы хотим, чтобы люди чувствовали к себе уважение и достойное отношение, с некоторым количеством шума следует смириться. Шум может быть побочным продуктом несовершенного процесса, который человек в итоге принимает. Дело в том, что подобный процесс дает право каждому (работнику, клиенту, заявителю, студенту, обвиняемому) рассчитывать на индивидуальный подход, возможность оказать влияние на вынесение особого суждения, внушает людям уверенность в том, что их заметят и выслушают.

Четвертое: шум может внести существенный вклад в приспосабливание к новым ценностям, подталкивая вперед нравственную и политическую эволюцию. Устранив шум, мы снизим нашу способность реагировать на движение моральных и политических традиций в новом, неожиданном направлении. Система, очищенная от шума, навечно замораживает систему ценностей.

Пятое: некоторые стратегии, разработанные для снижения шума, могут вызвать сопротивление, приводя к тому, что человек попытается обмануть систему и обойти запреты. Небольшое количество шума (а может, и существенное) требуется для пресечения подобных нарушений.