Общество контроля. Как сохранить конфиденциальность в эпоху тотальной слежки

Программы, выявляющие потенциальную преступность, прогнозируют, где могут произойти преступления. Девятифакторная программа оценки риска в Нью-Джерси использует алгоритмы, с высокой долей вероятности предсказывающие, кто из обвиняемых скроется или причинит вред людям. В использовании алгоритмов нет ничего плохого, в конце концов, это просто набор шагов, предназначенных для ответа на некий вопрос или выполнения определенной задачи (например, алгоритмом является кулинарный рецепт). И нет ничего плохого в том, что полиция действует активно, а не просто реагирует. Люди все время принимают решения, основанные на интуиции. В каком-то смысле алгоритмы – это просто интуиция в вечернем платье.

Сторонники использования алгоритмов в правоохранительных органах говорят, что их программы исключают – или хотя бы сводят до минимума – этнические и расовые предубеждения, а также обычные человеческие ошибки, и обеспечивают более последовательные результаты, свободные от предвзятости. Это достойная цель. Предвзятостью заражена вся американская система уголовного правосудия. Например, белые и афроамериканцы употребляют марихуану примерно с одинаковой частотой, однако вероятность, что афроамериканца арестуют за преступление, связанное с марихуаной, почти в четыре раза выше[163]. Дорожная полиция остановит и обыщет водителя-афроамериканца с большей вероятностью, чем белого[164].

Исследование, проведенное в Майами и Филадельфии экономистами Дэвидом Арнольдом и Уиллом Добби и профессором права Кристал Янг, выявило доказательства предвзятого отношения к чернокожим обвиняемым со стороны судей любой этнической принадлежности: чернокожим обычно назначали более высокий залог, их чаще оставляли под стражей до суда[165]. Стремление преодолеть такие предубеждения не просто похвально – оно необходимо, чтобы система осуществляла реальное правосудие. Но недостаточно просто взять и заменить суждение человека суждением машины.

* * *

История предиктивной аналитики в правоохранительной деятельности началась в 1990-х годах с процесса, разработанного Департаментом полиции Нью-Йорка. Сегодня Нью-Йорк – один из самых безопасных мегаполисов Америки. В 2018 году в пяти районах было убито 289 человек. Уровень убийств в городе – 3,31 на 100 000 человек – был самым низким за последние пятьдесят лет[166].

В 1990 году это был другой город: 2245 убийств, что составляет около 31 на 100 000 человек за год (сравнивая цифры, будем учитывать, что за прошедшие 28 лет население города заметно увеличилось)[167]. Вот что в конце 1990 года писала о родном городе газета «Нью-Йорк таймс»: «Улицы уже напоминают Нью-Калькутту, кишащую попрошайками. Преступность и страх перед ней добавляют городу оттенки Нью-Бейрута. А теперь заканчивается поток денег и налогов, которые помогли городу сделать эти улицы терпимыми. Безопасные улицы имеют основополагающее значение: выйти на них – это самое простое выражение общественного договора, и, если город не сможет выполнить свою часть этого договора, он задохнется»[168]. Город знал: чтобы не задохнуться, необходимо взять под контроль преступность. Однако у полиции не было нужной информации[169].

В 1993 году Нью-Йорк впервые почти за тридцать лет избрал мэра-республиканца – амбициозного Руди Джулиани, бывшего федерального прокурора. Возможно, сейчас вам трудно в это поверить, но тогда Руди обладал определенной долей политического здравого смысла. Он провел кампанию за правопорядок и вскоре после вступления в должность назначил главой полиции города Билла Брэттона, который раньше был комиссаром полиции Бостона, а затем главой транспортной полиции Нью-Йорка.

Вскоре Брэттон столкнулся с проблемой: он обнаружил, что его новый департамент не уделяет особого внимания предотвращению преступности. В то время так поступали многие. У полиции не было хрустальных шаров. Они видели свою работу в том, чтобы реагировать на преступления, и для этого сами преступления должны были уже произойти. О полицейских судили по быстроте их реакции, по количеству арестов и раскрытых преступлений.

Полиция не имела доступа к данным о преступлениях в режиме реального времени. Лу Анемон, в то время самый высокопоставленный офицер полиции Нью-Йорка, в отчете за 2013 год объясняет это так: «Полевые операции контролировали диспетчеры из штаба, в департаменте они считались людьми самого низкого ранга. Поэтому мы просто суетились, отвечая на звонки 911. У офицеров не было свободного времени, чтобы сосредоточиться на профилактике преступности».