Роботы-убийцы против человечества

109. Есть, несомненно, убедительные доводы в пользу проявления большой осмотрительности в подходе к возможному созданию БАРС. Их применение может иметь далеко идущие последствия для социальных ценностей, в том числе глубоко повлиять на защиту жизни и принцип ценности человеческой жизни, равно как и на международную стабильность и безопасность. Хотя в настоящее время не ясно, как БАРС смогут во многих отношениях удовлетворять требования МГП и МППЧ, можно предвидеть, что при определенных обстоятельствах они смогут соблюдать эти требования, особенно если они будут использоваться бок о бок с солдатами. Даже если это так, существует широко распространенное беспокойство в связи с тем, что наделение БАРС возможностью убивать людей может принизить ценность самой жизни. Неустающие военные машины, готовые к применению нажатием кнопки, создают опасность перманентного вооруженного конфликта (хотя и низкой интенсивности), устраняя возможность послевоенного восстановления. Тем, кто хочет принять БАРС на вооружение, придется доказывать, что конкретные виды их применения в тех или иных конкретных условиях следует разрешить. Ввиду далеко идущих последствий их применения для защиты человеческой жизни потребуются убедительные доказательства.

110. Если слишком долго оставлять этот вопрос без внимания, он в буквальном смысле будет вырван из рук человека. Кроме того, следуя по пятам проблемного применения и оспариваемых обоснований беспилотников и прицельного уничтожения, БАРС могут серьезно подорвать способность мировой правовой системы сохранять минимальный мировой порядок.

111. Некоторые меры необходимо принять немедленно, тогда как другие могут последовать позднее. Если опыт беспилотников считать показательным, то необходимо будет с самого начала поставить на повестку дня задачу обеспечения транспарентности, ответственности и верховенства права. Потребуются моратории для того, чтобы не допустить принятия мер, которые позднее могут оказаться необратимыми, а всеохватывающий процесс принятия решения относительно подхода к этому вопросу должен идти одновременно на национальном, межгосударственном и международном уровнях.

112. Чтобы инициировать этот процесс, потребуется создать международный орган для мониторинга ситуации и выработки вариантов действий на более далекую перспективу. Непрекращающаяся работа этого органа, или его преемника, по вопросам, возникающим в связи с БАРС, будет иметь крайне важное значение ввиду постоянной эволюции технологии и необходимости обеспечить защиту права на жизнь – чтобы не допустить ни индивидуальных случаев произвольного лишения жизни, ни обесценения жизни в более широком плане.

V. Рекомендации

А. Организации Объединенных Наций

113. Совет по правам человека должен призвать все государства объявить и соблюдать национальные моратории, по крайней мере, на испытания, производство, сборку, передачу, приобретение, принятие на вооружение и применение БАРС до тех пор, пока не будет разработана согласованная на международном уровне рамочная система в отношении будущего БАРС.

114. Предложить Верховному комиссару по правам человека в приоритетном порядке созвать группу высокого уровня по вопросам БАРС, состоящую из экспертов в различных областях, таких как право, робототехника, компьютерная наука, военные операции, дипломатия, управление конфликтами, этика и философия. Эта группа должна опубликовать свой доклад в течение одного года, и ее мандат должен включать:

a) проведение анализа технических достижений, имеющих отношение к БАРС;

b) оценку правовых и этических вопросов и вопросов политики, касающихся БАРС;

c) выработку рамочной основы, позволяющей международному сообществу эффективно решать правовые вопросы и вопросы политики, возникающие в связи с БАРС, и разработку на этот счет конкретных рекомендаций по вопросам существа и процедуры; в своей работе группа должна стремиться содействовать широкому международному диалогу;

d) оценку достаточности или недостатков существующих международно-правовых и национальных нормативных основ регулирования БАРС;

e) подготовку предложений относительно последующей деятельности по итогам работы группы.

115. Все соответствующие учреждения и органы Организации Объединенных Наций должны, когда это уместно, в своих отношениях со сторонами, ведущими работу в области робототехниче-ского оружия:

a) подчеркивать необходимость обеспечения полной транспарентности применительно ко всем аспектам разработки роботизированных систем оружия;

b) добиваться от государств большей международной транспарентности относительно их процедур проведения обзора вооружений, в том числе процедур обзора на основании статьи 36 Дополнительного протокола I к Женевским конвенциям.

B. Региональным и другим межправительственным организациям

116. Поддержать предложения, изложенные в рекомендациях в адрес Организации Объединенных Наций и государств, в частности призыв к введению мораториев в качестве немедленной меры.