Искусственный интеллект. Большие данные. Преступность

Казалось бы, в этой ситуации проще всего установить запрет на дальнейшее углубление нейронных сетей, а также на применение некоторых иных методов программирования, типа рекуррентного вероятностно-логического вывода. Однако проблема в том, что чем глубже сеть, тем она эффективнее. В высококонкурентном мире на протяжении всей истории действовал принцип, когда каждый старался заполучить наиболее эффективный инструмент. Третьей этической проблемой являются этические последствия решений, рекомендованных программами с элементами ИИ, особенно в тех случаях, когда они поддерживают решения, принимаемые не человеком, а роботом. Еще в 2012 г. ведущая международная организация по правам человека поставила перед ООН вопрос о необходимости запрещения автономных боевых систем (роботов), самостоятельно принимающих решения об использовании находящихся у них боевых средств. Несмотря на мощную поддержку со стороны правительств некоторых, в первую очередь европейских государств, решение ООН, обязательное к исполнению, по состоянию на сегодняшний день так и не принято.

Международный Комитет Красного Креста (МККК) с 2014 года постоянно призывает государства ограничить автономность систем вооружений, чтобы гарантировать, что они применяются согласно нормам международного гуманитарного права (МГП).

МККК полагает, что существует вероятность того, что все более автономные системы вооружений могут стать менее предсказуемыми, особенно в случае повышения мобильности, приспособляемости и (или) взаимодействия нескольких систем (например, действующих группой). Снижение предсказуемости результатов применения автономной системы вооружения может указывать на снижение контроля со стороны человека над функционированием данной системы вооружения, при том, что решение о применении силы принимается не человеком, а машинными операциями. Следовательно, могут возникнуть серьезные вопросы относительно соответствия данной системы вооружения нормам МГП и требованиям общественного сознания.

В апреле 2018 г. более 4 тысяч сотрудников Google подписали открытое письмо к руководству корпорации, требуя отказаться от участия в программе Пентагона по разработке ИИ боевых беспилотников. Программа Project Maven, выйти из которой потребовали сотрудники, предполагает разработку алгоритмов анализа изображений, полученных с дронов, для повышения точности их ударов. Руководство «Гугл» не продлило участие в разработке этого проекта.

Аналогичная проблема возникает и применительно к роботизированным транспортным средствам. В настоящее время семь автопроизводителей ведут работы по созданию гибридных автомобилей, где в определенных случаях может включаться робот. Google с Ford уже производят полностью автоматизированные автомобили. Toyota в 2018 г. совместно с правительством Сингапура запустила полностью автоматизированные городские такси в городе-государстве.

Так или иначе, все роботизированные машины будут управляться ИИ той или иной степени продвинутое™. В США, например, на уровне федерального правительства и штатов отсутствует какое-либо законодательство по этим вопросам. А между тем, в некоторых штатах Google-мобили уже узаконены.

Сами производители подходят у этой проблеме по-разному. Например, Mercedes в 2016 г. опубликовал заявление, что в случае соблюдения дорожных правил долг компании защищать пассажиров, а не пешеходов. В любой ситуации, если роботизированный Mercedes решит, что он соблюдает правила, выбор будет сделан в пользу пассажиров, а не пешеходов.

Принципиально иную позицию заняла компании Google. В новом поколении Google-мобилей, которым предстоит выйти на дороги в скором времени, имеется программный видеофильтр. В случае, если видеосенсоры автомобиля распознают на дороге детей или ребенка, вне зависимости от того, нарушает он правила или нет, автомобиль в качестве приоритета первого порядка будет выбирать сохранение жизни ребенка.