Идиот или гений? Как работает и на что способен искусственный интеллект

Очевидной проблемой становится приватность. Даже если я не зарегистрирована на Facebook (или в любой другой социальной сети, использующей распознавание лиц), мои фотографии могут быть размечены и впоследствии автоматически распознаны сайтом без моего разрешения. Например, компания FaceFirst за плату предоставляет услуги по распознаванию лиц. Журнал New Scientist пишет: “FaceFirst… представляет систему для розничных магазинов, которая, как утверждается, «поднимает продажи, узнавая ценных клиентов при каждом посещении», а также отправляет «оповещения, когда известные проблемные клиенты входят в любой из ваших магазинов»”[159]. Подобные услуги предлагают и многие другие компании.

Но потеря приватности не единственная возникающая здесь проблема. Еще тревожнее становится, если задуматься о надежности систем распознавания лиц, ведь известно, что они порой совершают ошибки. Если ваше лицо будет ошибочно распознано, вам могут отказать в посещении магазина, запретить сесть в самолет или несправедливо обвинить в преступлении. Более того, современные системы распознавания лиц допускают значительно больше ошибок при распознавании цветных лиц, чем при распознавании белых. Американский союз защиты гражданских свобод (ACLU), который яростно сопротивляется использованию технологии распознавания лиц в правоохранительных органах, ссылаясь на потенциальное нарушение гражданских прав, протестировал систему Rekognition, разработанную Amazon, на 535 членах Конгресса США (не меняя настроек по умолчанию). Фотография каждого члена Конгресса сравнивалась с базой данных людей, арестованных по обвинениям в совершении уголовных преступлений. В ходе проверки система некорректно распознала лица 28 из 535 членов Конгресса, обнаружив для них соответствия в базе данных преступников. Двадцать один процент ошибок пришелся на фотографии афроамериканцев (при этом афроамериканцы составляют всего около 9 % членов Конгресса)[160].

На волне негатива после теста ACLU и других исследований, демонстрирующих ненадежность и предвзятость систем распознавания лиц, несколько высокотехнологичных компаний объявили, что выступают против использования технологии распознавания лиц в правоохранительных органах и скрытом наблюдении. Так, Брайан Брэкин, генеральный директор компании Kairos, которая специализируется на распознавании лиц, написал в широко разошедшейся статье следующее:

Технологии распознавания лиц, используемые для установления личности подозреваемых, негативно влияют на цветных людей. Отрицая это, мы обманываем себя… Я сам пришел к выводу (и в моей компании меня поддержали), что использование коммерческих систем распознавания лиц в правоохранительной сфере и государственном наблюдении любого типа недопустимо – и что оно открывает дверь для недобросовестного поведения нечистоплотных людей… Мы заслуживаем жить в мире, где мы не даем государствам возможности категоризировать, отслеживать и контролировать своих граждан[161].

В блоге на сайте компании президент и директор Microsoft по юридическим вопросам Брэд Смит призвал Конгресс регламентировать распознавание лиц:

Технология распознавания лиц поднимает вопросы, которые касаются механизмов защиты таких фундаментальных прав человека, как право на неприкосновенность частной жизни и свободу самовыражения. Эти вопросы повышают ответственность технологических компаний, создающих соответствующие продукты. На наш взгляд, они также призывают к созданию продуманного государственного регламента и разработке норм допустимого использования [систем]. Распознавание лиц потребует активных действий как от государственного, так и от частного сектора[162].