Общество контроля. Как сохранить конфиденциальность в эпоху тотальной слежки

В целом эти алгоритмы, по-видимому, улучшаются. Национальный институт стандартов и технологий (NIST) как нерегулируемое государственное агентство по стандартизации при Министерстве торговли регулярно тестирует коммерчески доступные алгоритмы распознавания лиц. В 2018 году он оценил 127 алгоритмов от 39 разных разработчиков и обнаружил, что в совокупности они в 20 раз точнее, чем были в 2014 году[115].

В отчете это улучшение объясняется использованием сверточных нейронных сетей. В нем говорится, что распознавание лиц претерпело промышленную революцию, и алгоритмы становятся все более толерантными к изображениям низкого качества. Другими словами, по мере улучшения системы распознавания лиц растет ее способность точно идентифицировать людей по дефектным фотографиям. Дни, когда нам приходилось останавливаться и поворачиваться лицом к камере, чтобы она нас узнала, скоро покажутся таким же далеким прошлым, как эпоха дагерротипов, когда нужно было неподвижно позировать по десять минут.

Но общее улучшение все еще может маскировать малозаметные различия. Факт, что распознавание лиц стало более точным, не означает, что все алгоритмы одинаково хорошо определяют людей всех рас и полов. Оценка, опубликованная Национальным институтом стандартов и технологий в декабре 2019 года, показала, что все 189 коммерчески доступных алгоритмов от 99 фирм идентифицировали выходцев из Африки и Восточной Азии значительно хуже, чем европейцев. (Это не относится к алгоритмам, разработанным в Китае, которые показали низкий уровень ложноположительных результатов для восточных азиатов – это позволяет предположить, что обучение сети на широком спектре лиц может уменьшить расовый разрыв в ложной идентификации[116].)

Какие-то системы будут работать лучше остальных (хотя качество некоторых из них остается загадкой, например, Amazon не отправила программу Rekognition в NIST для тестирования). Однако без адекватных критериев и обязательных защитных правил ничто не заставит полицию выбрать менее предвзятый алгоритм, если он, например, дороже более предвзятого.

И даже если алгоритмы распознавания лиц будут все точнее определять каждую демографическую группу, их все равно можно использовать предвзято: например, непропорционально устанавливая их в небелых районах (как в наши дни некоторые агентства развертывают патрульные силы). Программа, которая успешно идентифицирует 99,8 % всех лиц, попавших в ее поле зрения, но в основном используется для идентификации темнокожих людей, становится просто очередным инструментом для увековечения расовых предубеждений. Как и любая другая технология, которая используется неправильно, распознавание лиц рискует усугубить, а не смягчить предрассудки общества. Это утверждение поднимает важный вопрос: а как его использовать правильно?

* * *

Возможно, наиболее узкая и конкретная цель полиции при распознавании лиц – это генерирование следственных зацепок. Департамент шерифа округа Вашингтон в Орегоне первым из всех правоохранительных органов Америки начал использовать Rekognition, инструмент распознавания лиц от компании Amazon. Согласно его веб-сайту, а также докладу старшего информационного аналитика Управления шерифа округа Вашингтон Криса Адзимы, представленному в мае 2019 года на конференции по полицейским технологиям, в этом департаменте не используют распознавание лиц для наблюдения за людьми, когда те занимаются обычными повседневными делами.

Департамент составил инструкцию, в которой прямо говорилось, что сотрудники не будут использовать эту технологию без законного обоснования, базирующегося на связи с преступлениями, что эта технология не будет применяться для ведения массовой слежки и что распознавание лиц не может использоваться для наблюдения за лицами или группами исключительно по причине их религиозной, политической или иной деятельности, защищенной конституцией. В инструкции также говорится, что результатами поиска по распознаванию лиц являются потенциальные зацепки, требующие дальнейшего расследования, и сами по себе эти результаты не могут считаться достаточным основанием[117].

Если подозреваемый попадает на камеру во время совершения того, что выглядит как преступная деятельность, офицер с одобрения начальников сравнивает его изображение с фотографиями преступников из базы данных, которая ведется с 2001 года. Фотография, с которой начинается расследование, может быть получена любым из множества способов: например, нападавший попал в кадр камеры слежения, или кто-то снял его на камеру мобильного телефона, или подозреваемый согласился, чтобы его сфотографировал полицейский, или его арестовали и сфотографировали, но он отказывается предоставить удостоверение личности. Проводить обыски разрешается только подготовленным офицерам.