Цифровая революция. Преимущества и риски. Искусственный интеллект и интернет всего

Государствам необходимо поощрять нормы ответственного использования ИИ, включая внедрение и использование технологий таким образом, чтобы это отражало понимание технических рисков, связанных с системами ИИ. Хотя изложение таких принципов – это не то же самое, что внедрение эффективных бюрократических процессов для обеспечения их соблюдения, тем не менее, их ценность в том, чтобы государства публично сигнализировали другим (и своим собственным бюрократическим структурам) о важности ответственного использования ИИ в военных приложениях.

Нормы поведения

Страны могли бы договориться о письменном своде правил или принципов внедрения ИИ в военные системы. Эти правила и принципы, даже если они не имеют обязательной юридической силы, тем не менее могут выполнять ценную сигнальную и координационную функцию, позволяющую избежать некоторых рисков при внедрении ИИ. Кодекс поведения, заявление о принципах или другое соглашение могут включать широкий спектр как общих, так и конкретных заявлений, в том числе о любых или всех перечисленных выше мерах укрепления доверия.

У широкого кодекса поведения есть несколько потенциальных недостатков.

Во-первых, более широкий кодекс поведения, которому не хватает специфики некоторых мер, обсуждавшихся выше, может подорвать импульс к более широкому сотрудничеству, а не послужить строительным блоком.

Во-вторых, при обсуждении кодекса поведения возникнет риск того, что разногласия по поводу некоторых деталей могут подорвать все усилия или привести к выбору форума, в результате чего страны затем начнут вести собственные диалоги о кодексе поведения. Возможно, именно это и произошло в киберпространстве, где несколько различных текущих процессов диалога о кодексах поведения не привели к существенному успеху.

Таким образом, можно предположить, что стимулы могут привести к менее формальному кодексу поведения, разработанному как структурный элемент, а не к чему-то, что могло бы заставить страны ограничивать возможности.

Ограничения ИИ

Риск несчастного случая является серьезной проблемой для военных приложений ИИ. Конкурентное давление может увеличить риск несчастных случаев, заставляя военных сокращать испытания и быстро развертывать новые системы с поддержкой ИИ. Государства могут использовать различные варианты для снижения рисков, связанных с созданием ненужных стимулов для ускоренного тестирования и оценки, включая публичное заявление о важности Т&Е, повышение прозрачности процессов Т&Е, продвижение международных стандартов Т&Е и обмен гражданскими исследованиями по безопасности ИИ.

Кроме того, ИИ сделает автономные системы более функциональными, а их более широкое использование может создать риски для стабильности, особенно при развертывании в оспариваемых районах. Чтобы снизить эти риски, государства могли бы принять МД, такие как «дорожная карта» для поведения автономных систем, признать маркировку систем для обозначения степени их автономии и соблюдение запретных географических зон для автономных систем.

Использование ИИ в военных целях сопряжено с многими рисками, в том числе с тем, как ИИ может изменить характер ведения войны. Политики должны осознавать эти риски, поскольку страны начинают интегрировать ИИ в свои вооруженные силы, и они должны стремиться по возможности снижать эти риски.

Вместо заключения. Воспоминание о будущем 2050

Новый 2022 год шагает по планете. Как водится, с началом каждого нового года люди подводят некоторые итоги предыдущего периода и намечают цели на будущее. Мы тоже решили посмотреть, куда движется наша жизнь и как технологии повлияют на нашу повседневную жизнь, работу и развлечения в ближайшем и не очень будущем. И заодно подвести некоторые итоги.

Для этого достанем с антресоли запылившиеся стопки советских журналов 50-60-х годов прошлого века, типа «Техника молодежи», «Знания – сила», посмотрим иллюстрации, почитаем статьи. Ведь именно тогда сформировалось ядро информационно-коммуникационных технологий, программирования, алгоритмического управления, генной инженерии, робототехники и т. п. В журнале «Техника молодежи» для волнующих воображение представлений о жизни в XXI веке была даже выделена отдельная рубрика – «Окно в будущее».

Что же, оглянувшись назад, мы можем увидеть в этом самом окне и о чем почитать? Советский человек построит атомные поезда и подземные города. Фотонные межзвездные ракеты отправятся к системе Альфа Центавра. На Луне будет полным ходом идти добыча полезных ископаемых. Земляне покорят и Красную планету, но не найдут там ничего интересного. Лайнеры будут способны несколько раз огибать Землю без дозаправки. Причем управлять летательными аппаратами, как и в случае с автомобилями, сможет любой гражданин. Будет создано лекарство от рака. И еще многое другое.