Во власти цифр. Как числа управляют нашей жизнью и вводят в заблуждение

Студентам, участвовавшим в эксперименте, случайным образом присвоили роли «работодателя», «зеленого соискателя» и «фиолетового соискателя». В каждом раунде соискатели должны были решить, будут ли они инвестировать в собственное образование.

С одной стороны, можно было привести доводы против инвестиций такого рода: студентам платили за участие в эксперименте, а за «образование» пришлось бы платить им самим. С другой стороны, образование повышало их шансы получить более высокие баллы при «тестировании» (которое состояло в начислении баллов исходно случайным способом, «подправленным» в пользу тех, кто вкладывался в образование), а это давало им больше возможностей заработать. Работодатели охотнее нанимали соискателей с высокими баллами, потому что образованный работник приносит больше дохода. Но, поскольку работодатели видели только результаты тестирования, они не могли быть на 100 процентов уверены, что соискатель действительно получил образование. Условия этого эксперимента очень похожи на существующие в реальности: работодатель никогда не знает точно, насколько подходит ему тот или иной соискатель, но может оценить его по несовершенным критериям – например по оценкам, полученным на экзаменах.

В первом раунде эксперимента «фиолетовые» соискатели вложили в образование чуть меньше денег. Это никак не было связано с их цветом – тот распределялся случайным образом. В следующем раунде работодатели могли ознакомиться со статистикой.

Они решили, что «фиолетовые» работники им ни к чему. Когда же «фиолетовые» увидели, что «зеленые» получают работу чаще, они решили инвестировать еще меньше, так как их инвестиции, по-видимому, не повышали шансов получить работу.

Любопытнее всего то обстоятельство, что все вели себя рационально. Судя по числам, именно такая стратегия была наилучшей. Но раундов через двадцать возник порочный круг, приведший к образованию мира с чрезвычайно сильным неравенством. «Я был поражен. Ребята по-настоящему рассердились, – рассказывал Фрайер Тиму Харфорду, который писал об этом эксперименте в книге “Логика жизни”[285]. – Изначальные асимметрии возникли совершенно случайно, но участники уцепились за них и никак не желали отпустить».

Разумеется, мир куда сложнее, чем изображает этот увлекательный эксперимент. Но он иллюстрирует важную мысль: числа – это одновременно и причина, и следствие того, как выглядит мир. Может показаться, что они пассивно описывают реальность, но это величайшее заблуждение: они придают реальности форму. И чем больше числа управляют миром, как это происходит сейчас с большими данными, тем сильнее они его изменяют.

Взять, к примеру, «прогностическую полицейскую деятельность» – алгоритмы, при помощи которых полиция выясняет, кто может быть преступником. Американские данные показывают наличие сильной корреляции между бедными молодыми чернокожими мужчинами и преступностью. Исходя из данных этих алгоритмов, полиции следует обращать особое внимание на людей, соответствующих этому описанию, и на кварталы, где те живут. Что в результате? Расовое профилирование, из-за которого под арест попадают и ни в чем не повинные люди. А если определенных людей арестовывать чаще, они будут упоминаться в статистике снова и снова – это произойдет само собой. Богатые белые преступники остаются незамеченными, потому что не попадают в сферу внимания полиции. Неудивительно, что в дальнейшем в статистике можно усмотреть связь между цветом кожи и уровнем преступности – возможно, еще более прочную.

Те же опасности подстерегают нас и в области кредитных рейтингов: людям с определенными характеристиками оказывается труднее получить заем, чем другим, поэтому такие люди быстрее беднеют, отчего им еще труднее получить кредиты, а от этого они беднеют еще быстрее, и так далее, и так далее. Такие алгоритмы превращаются в самоисполняющиеся пророчества.

Числа, которые должны были отражать реальность, заменили ее.

Чего вы хотите добиться при помощи чисел?

В 2014 году китайское правительство объявило, что с 2020 года по всей стране будет внедрена «система социального кредита». По словам руководителей Китая, это необходимо для «построения гармоничного социалистического общества»[286]. Благодаря этой рейтинговой системе «перед достойными доверия будет открыт весь мир, а скомпрометированным будет трудно сделать и один шаг». За последние годы мы смогли получить некоторое представление об этой системе, потому что в 2015 году Центральный банк Китая выбрал восемь компаний для проведения испытаний[287].