Шум. Несовершенство человеческих суждений

Безусловно, мы должны остановиться на цене «бесшумного», но предвзятого алгоритма, равно как и на цене столь же «бесшумных», но предвзятых правил. Ключевой вопрос: способны ли мы создать алгоритм, который будет функционировать лучше человека по ряду обязательных критериев: точность и снижение шума, отсутствие дискриминации и справедливость? По имеющимся у нас свидетельствам, алгоритм может превзойти человека, какое бы сочетание критериев мы ни выбрали. Обратите внимание – мы говорим: «может» и не говорим: «превзойдет». В главе 10 мы рассказывали об алгоритме, который способен выносить более точные суждения об освобождении подозреваемого под залог по сравнению с типичным судьей, и дискриминация по расовому признаку вмешивается в его суждения гораздо меньше. Точно таким же образом и алгоритм анализа резюме выберет лучших и более разнообразных кандидатов, чем дано человеку.

Приведенные выше примеры, а также многие случаи, о которых мы не упоминали, подталкивают нас к однозначному выводу: хотя алгоритм прогнозирования в нашем изменчивом мире вряд ли станет идеальным инструментом, тем не менее его выводы более совершенны, чем подверженные шуму и нередким искажениям суждения человека. Превосходство алгоритма заключается в достоверности прогнозов (хорошая программа всегда сделает более качественный прогноз) и меньшей склонности к дискриминации (хороший алгоритм не так подвержен искажениям, как человек). Однако, зная, что алгоритм совершает меньше ошибок, чем обычный эксперт, мы все же интуитивно отдаем предпочтение человеку. Стало быть, это интуитивное предпочтение нуждается в тщательном исследовании.

Перейдем к общим выводам. Они достаточно просты и касаются не только алгоритмов. Стратегии снижения шума могут быть затратны – это правда. И все же во многих случаях цена – лишь отговорка; у нас нет достаточных оснований мириться с несправедливостью и влиянием шума. Разумеется, меры, принимаемые для снижения шума, могут привносить новые ошибки, в основном в форме смещения. В таком случае мы получаем серьезную проблему, однако ее решение – не отказ от стратегий снижения шума, а поиск новых и лучших стратегий.

К разговору о цене снижения шума

«Пытаясь устранить шум в системе образования, мы вынуждены нести существенные затраты. В отметках, которые выставляют учителя, много шума. И все же мы не в состоянии позволить себе дать поручение пяти учителям проверять одну и ту же работу».

«Не доверяя суждению человека, социальные сети устанавливают запрет на определенную лексику вне зависимости от контекста. Шум устраняется, однако возникает множество ошибок. В данном случае лекарство может оказаться опаснее, чем сама болезнь».

«Да, и правила, и алгоритмы могут отличаться предвзятостью. Однако предубеждений хватает и у людей. Вопрос в том, способны ли мы изобрести бесшумный алгоритм, содержащий при этом меньше предубеждений?»

«Подавление шума – процедура недешевая, однако затраты часто себя оправдывают. Шум может привести к жуткой несправедливости. Однако, если одна попытка оказалась слишком примитивной – мы утвердили неоправданно жесткие инструкции или правила, тем самым вызвав смещение, – сдаваться нельзя. Нужно предпринять еще одну попытку».

Глава 27 Достоинство

Представьте, что вам отказали в ипотечном кредите – и не потому что эксперты досконально изучили вашу ситуацию. Просто у банка твердое правило: человек с таким кредитным рейтингом, как у вас, получить ипотеку не может. Или ваша квалификация произвела сильнейшее впечатление на собеседовании, и все же вас не взяли на работу, поскольку пятнадцать лет назад вы были осуждены за незаконный оборот наркотиков. Просто у фирмы жесткий запрет на найм сотрудников, ранее осужденных за преступление. Предположим, вас обвинили в правонарушении и не освободили под залог, однако это произошло не в результате собеседования с судьей; просто-напросто алгоритм сделал вывод, что люди с вашими характеристиками определенно склонны к побегу.

В подобных случаях любой из нас возмутится, потребует индивидуального подхода, захочет, чтобы его обстоятельства рассмотрел живой человек. Возможно, невинно пострадавший не знает, что индивидуальный подход сопряжен с шумом. Что ж, если такова цена человеческого участия – так тому и быть, будет настаивать он. Он пожалуется, перефразировав сентенцию Верховного суда, что с ним обращаются «не как с уникальной личностью, а как с элементом безликой аморфной массы, подлежащим слепому отправлению правосудия».

Многие добиваются индивидуального слушания их дела, желают, чтобы на судью не давил свод правил, требуют достойного обращения и надлежащего уважения. Идея справедливого правосудия, которое не отрицало бы основ привычной нам жизни, предполагает возможность непосредственного взаимодействия обвиняемого и человека, имеющего право на усмотрение, который оценит всю совокупность факторов.