«Великая перезагрузка» в мире денег и финансов

В прошлом месяце EDPS и EDPB опубликовали совместный отчет, посвященный биометрическим системам на базе искусственного интеллекта. Это был своеобразный ответ на проект Регламента по искусственному интеллекту, обнародованный в апреле 2021 года Европейской комиссией (ЕК). В тексте проекта Регламента содержатся многочисленные предупреждения о тех рисках, которые может создавать неконтролируемое использование систем ИИ в разных сферах как для общества в целом, так и для отдельных социальных групп и отдельно взятого человека. Рекомендация Регламента: началу реализации любого проекта ИИ должна предшествовать глубокая оценка возможных рисков. И даже после запуска проекта необходимо продолжать мониторинг рисков (один из самых серьёзных – риск утечки собранной и накопленной в базах данных информации). Возможна остановка проекта, если значения рисков выходят за установленные пределы. За нарушение Регламента компаниями предусмотрено взыскание крупных штрафов.

Регуляторы EDPS и EDPB в своём докладе заняли ещё более консервативную позицию. В частности, они предлагают ввести полный запрет на автоматическое распознавание лиц в любых общественных местах – от ресторанов и частных магазинов до футбольных стадионов и вокзалов. Представители EDPS и EDPB считают, что биометрическая идентификация создает «чрезвычайно высокие риски», поэтому её следует запретить как в государственном, так и в частном секторах.

EDPS и EDPB призывают к общему запрету на любое использование ИИ для автоматического распознавания особенностей поведения человека в общественных местах. Они также рекомендуют запретить применение систем искусственного интеллекта, использующих биометрию, для разделения людей на группы по разным признакам: пола, сексуальной ориентации, этнической и религиозной принадлежности, политической ориентации. Одним словом, по всем тем признакам, по которым дискриминация человека запрещена в соответствии со статьей 21 Хартии основных прав (the Charter of Fundamental Rights).

Наблюдение за поведением и эмоциональным состоянием человекадопустимов оченьспецифическихслучаях. Например, в медицинских целях. Да и то лишь с согласия пациента или его родственников [41]. Разработка упомянутого выше Регламента ЕС с учетом доклада EDPS и EDPB будет продолжена.

Вместе с тем, всё больше появляется примеров того, как отдельные страны, находящиеся за пределами ЕС, уже вводят ограничения и запреты на идентификацию людей с помощью ИИ через системы видеонаблюдения. Приведу некоторые.

В Великобритании в 2019 году активистом кампании по правам человека Эдом Бриджесом (Ed Bridges) в суде было возбуждено дело, которое было поддержано правозащитной группой Liberty. В иске было отмечено, что полиция Южного Уэльса, осуществляя наблюдение за людьми через видеокамеры, нарушила право на неприкосновенность частной жизни в соответствии с Европейской конвенцией о правах человека. Первоначально иск был отклонен судьями Высокого суда. Однако Бриджес обжаловал решение в Апелляционном суде, где его апелляция была поддержана по трем из пяти причин. Бриджес отметил: «Эта технология (Система распознавания лиц. – В.К.) является навязчивым и дискриминационным инструментом массового наблюдения… Вот уже три года полиция Южного Уэльса использует её против сотен тысяч из нас, без нашего согласия и часто без нашего ведома. Мы все должны иметь возможность использовать наши общественные места, не подвергаясь репрессивному надзору». И решение суда было изменено. 11 августа 2020 года Апелляционный суд Великобритании постановил, что полиция Южного Уэльса незаконно использовала технологии по распознаванию лиц, что является нарушением прав человека. Теперь полиции запрещено пользоваться этими технологиями [42].

Не всё так безнадежно и в США. Например, с 1 января 2020 года в Сан-Диего (Калифорния) отключили систему распознавания лиц, которой пользовались около 30 государственных подразделений. Решение было принято после длительной кампании групп защиты гражданских прав. Это не единичный случай. Если верить американским СМИ, то с прошлого года такой же запрет действует и в другом городе Калифорнии – Сан-Франциско. 25 июня 2020 года власти американского города Бостон (штат Массачусетс) проголосовали за введение запрета на использование систем распознавания лиц. Таким образом, уже в нескольких городах упомянутого штата, включая Спрингфилд, Кембридж, Сомервилл, действует аналогичный запрет [43].