Искусственный интеллект. Большие данные. Преступность

В ЕС первым шагом в направлении регулирования вопросов ИИ стала Резолюция Европейского Парламента 2017 г. «Нормы гражданского права о робототехнике». Еще в 2015 г. в Европейском Парламенте была создана рабочая группа по правовым вопросам, связанным с развитием робототехники и ИИ в ЕС. Резолюция не является обязательным документом, но дает ряд рекомендаций Европейской

Комиссии для возможных действий в этом направлении, причем не только касательно норм гражданского права, но и этических аспектов робототехники.

Резолюция определяет «умного робота» как робота, получающего автономию через использование сенсоров и/или взаимосвязь с окружающей средой; при этом робот имеет по меньшей мере минимальную физическую поддержку, адаптирует свое поведение и действия в соответствии с условиями среды, но у него отсутствует жизнь с биологической точки зрения. Предлагается создать систему регистрации продвинутых роботов, которая управлялась бы Агентством ЕС по робототехнике и искусственному интеллекту. Данное агентство также предоставляло бы техническую, этическую и регулятивную экспертизу по робототехнике. Что касается ответственности, предлагаются два варианта: либо объективная ответственность (не требующая вины), либо подход риск-менеджмента (ответственность лица, которое могло минимизировать риски). Ответственность должна быть пропорциональной реальному уровню указаний, которые отдаются роботу и уровню его автономности. Правила ответственности могут быть дополнены обязательным страхованием для пользователей роботов и компенсационным фондом для выплаты компенсации в случае отсутствия страхового полиса, покрывающего риск.

Для решения этических вопросов резолюция предлагает два кодекса поведения: Кодекс этики для разработчиков робототехники и Кодекс комитетов по этике научных исследований. Первый, в частности, предлагает четыре этических принципа: 1) «делай благо» (роботы должны действовать в интересах людей); 2) «не навреди» (роботы не должны причинять вред человеку); 3) автономия (взаимодействие человека с роботами должно быть добровольным); 4) справедливость (выгоды, получаемые от деятельности роботов, должны быть распределены справедливо).

Парламентская Ассамблея Совета Европы в 2017 г. приняла Рекомендацию 102 (2017) «Технологическая конвергенция, искусственный интеллект и права человека».

В ней Ассамблея предложила разработать руководства по следующим вопросам:

«1. Повышение уровня транспарентности, государственное регулирование и ответственность операторов в том, что касается:

1.1. того факта, что при любых обстоятельствах ответственность несет человек. Ссылки на то, что системы с искусственным интеллектом «самостоятельно» принимают решения, не могут освобождать создателей, владельцев и управляющих этих систем от ответственности за нарушения прав человека, совершаемые с применением таких систем, даже в случаях, когда действие, причинившее ущерб, не было напрямую санкционировано ответственным руководителем или оператором;

1.2. операций по автоматизированной обработке данных, имеющих целью сбор, обработку и использование персональных данных;

1.3. информирования общественности в отношении ценности данных, которые она генерирует, о необходимости согласия на использование этих данных, а также о сроке, в течение которого эти данные будут храниться;

1.4. информирования каждого человека об обработке полученных от него персональных данных, а также о математических и статистических методах, позволяющих осуществлять профилирование;

1.5. разработки и использования компьютерных программ, предназначенных для убеждения, а также информационно-коммуникационных технологий (ИКТ) или алгоритмов искусственного интеллекта, которые должны обеспечивать в полном объеме уважение достоинства и прав всех пользователей, особенно наиболее уязвимых категорий, таких как пожилые люди или инвалиды;

2. Общая система стандартов, которые должны соблюдаться в тех случаях, когда суд использует искусственный интеллект;

3. Необходимость обеспечения того, чтобы любая машина, любой робот или любой объект искусственного интеллекта оставались под контролем человека; исходя из того, что машина считается разумной лишь за счет своего программного обеспечения, следует предусмотреть возможность лишать ее способностей, которыми она обладает;