Убийственные большие данные. Как математика превратилась в оружие массового поражения

За это дело сложно бороться – во многих аспектах это похоже на борьбу против прослушки телефонных разговоров, которой занимается Агентство национальной безопасности. Защитники прослушки утверждают, что это необходимо для нашей безопасности. И люди, которые управляют нашим огромным аппаратом национальной безопасности, будут и дальше пытаться добыть как можно больше информации, чтобы выполнять свою миссию. Они продолжат покушаться на личную неприкосновенность граждан, пока им не сообщат, что они должны выполнять свою работу в рамках Конституции. Возможно, так им будет сложнее, но это необходимо.

Другая проблема заключается в вопросе равенства. Стало бы общество с такой охотой жертвовать концепцией достаточных оснований, если бы каждому члену общества пришлось испытать на себе все унижение и неудобства метода «останови и обыщи»? У полиции Чикаго есть своя программа «останови и обыщи». Что, если бы они во имя справедливости послали патрульных на Золотой берег – в один из самых респектабельных районов города? Что, если бы они начали задерживать тех, кто, закончив пробежку в парке, перебежал Северный бульвар в неположенном месте, или обрушились на владельцев пуделей, которые справили свою нужду на Лейкшор-драйв? Это усиленное присутствие полиции, вполне вероятно, позволило бы выявить нескольких пьяных водителей и, возможно, вскрыло бы несколько случаев мошенничества со страховками, домашнего насилия или рэкета. Время от времени, чтобы каждый почувствовал вкус неприкрашенной действительности, полиция должна бросать богатых граждан в свои фургоны, выкручивать им руки и заковывать в наручники – возможно, нецензурно ругаясь при этом и оскорбляя задержанных.

Через некоторое время благодаря повышенному вниманию к Золотому берегу у полиции накопится определенное количество информации. Она зафиксирует повышение уровня преступности в этом квартале, а это привлечет сюда еще больше полицейских сил, что, несомненно, приведет к дальнейшему озлоблению и росту конфронтации. Я представляю себе, как нарушитель правил парковки отказывается выйти из своего мерседеса, и в итоге ему предъявляют обвинение в сопротивлении аресту. Раскрыто еще одно преступление на Золотом берегу!

Описанная мной картина может показаться не слишком серьезной. Но важнейшая часть справедливости – равенство. И это означает, помимо многих других вещей, равное для всех применение правосудия. Люди, которые ратуют за политику «останови и обыщи», должны испытать ее на своей шкуре. Правосудие не может быть чем-то, что одна часть общества натравливает на другую.

Пагубный эффект неравномерного распределения усилий полиции, будь то «останови и обыщи» или предиктивных моделей вроде PredPol, не заканчивается в момент ареста обвиняемых и постановки на учет в правоохранительных органах. Как только они оказываются за решеткой, они испытывают на себе воздействие еще одного ОМП, которое я обсуждала в главе 1: модель предсказания рецидива, рекомендации которой используются при вынесении приговоров. Предвзятые данные, полученные благодаря неравномерности распределения полицейских сил, поступают напрямую в эту модель. Затем судьи изучают этот анализ, претендующий на звание научного, и выводят на его основании коэффициент риска. И те, кто воспринимают этот коэффициент серьезно, имеют основания назначать более длительные сроки заключения людям, которые, как им кажется, с большей вероятностью совершат в будущем новые преступления.

И почему же небелые заключенные из бедных кварталов с большей вероятностью будут совершать преступления? В соответствии с данными, вводящимися в модели предсказания рецидива, причина в том, что они с большей вероятностью останутся без работы, у них нет аттестата о среднем образовании и в прошлом они уже сталкивались с законом – и их друзья тоже.

Однако если взглянуть на те же самые данные по-другому, можно увидеть, что эти заключенные живут в бедных кварталах с ужасными школами и мизерными возможностями. Эти кварталы постоянно патрулируются полицией. Поэтому вероятность, что бывший заключенный, вернувшийся в родной квартал, снова столкнется с законом, в самом деле гораздо выше, чем у неплательщика налогов, который окажется после освобождения в своем тенистом пригороде с частными домами. В этой системе бедные и небелые наказываются в большей степени за то, что они – те, кто они есть, и живут там, где они живут.