Роботы-убийцы против человечества

96. Опыт двух мировых войн прошлого столетия может служить объяснением рационального требования, согласно которому люди должны субъек-тивизировать потери во время вооруженного конфликта и тем самым считать себя и свои общества ответственными за такие потери. После этих войн, в ходе которых стало наглядным опустошение, к которому может привести современная технология, люди, лично принимавшие главные военные решения, будучи преисполнены решимости «избавить грядущие поколения от бедствий войны», решили создать Организацию Объединенных Наций в целях обеспечения мира во всем мире и основать ее на принципах прав человека. Хотя вооруженные конфликты сегодня отнюдь не стали явлением прошлого, мир в течение почти 70 лет был избавлен от глобальной войны. Приверженность достижению этой цели можно понимать как следствие долговременного и, по существу, межпоколенческого воздействия настойчивого утверждения принципа ответственности человека за принятие решений, предполагающих совершение убийства.

97. Этот исторический экскурс показывает опасность оценки БАРС по минимальным стандартам, принятым в вооруженном конфликте для людей. Смертные солдаты действительно способны придавать вооруженному конфликту безнравственный характер, но они также имеют возможность придерживаться более высоких ценностей и в некоторых случаях демонстрировать определенную степень милосердия и сострадания. Если на поле боя люди будут заменены системами, которые калиброваны по стандартам действий не ниже тех, что ожидаются от людей, но не имеют способности подняться выше этих минимальных стандартов, то нам может грозить опасность распрощаться с надеждой на лучшее будущее. Способность ликвидировать «возмутителей спокойствия» в любой точке мира простым нажатием кнопки несет в себе опасность сосредоточения внимания только на симптомах нежелательных ситуаций. Это будет отвлекать от работы по устранению или даже предупреждению появления их причин за счет более долговременных, невоенных усилий, которые, хотя и более трудоемкие, могут в конечном итоге принести более долговечные результаты. Таким образом, БАРС могут порождать ложное чувство безопасности у тех, кто их применяет.

Н. Другие вызывающие озабоченность вопросы

98. Возможность развертывания БАРС поднимает дополнительные вызывающие озабоченность вопросы, к числу которых относятся, но не только, следующие:

• БАРС могут стать объектом присвоения, а также объектом хакерской атаки и «спуфинга»[74]. Государства более не имеют монополии на применение силы. БАРС могут перехватываться негосударственными субъектами, такими как преступные картели или частные лица, и применяться против государства или других негосударственных субъектов, включая гражданское население.

• Могут произойти сбои в работе. Автономные системы могут быть «хрупкими»[75]. Невероятные ошибки все же могут приводить к катастрофическим последствиям.

• Трудно предвидеть будущие разработки в области технологий. Разрешение развертывать БАРС может открыть еще больший ящик Пандоры.

• Вопросы регулирования использования БПЛА в настоящее время вызывают многочисленные споры, как и правовой режим, касающийся прицельного уничтожения вообще, и появление БАРС может еще больше усилить неопределенность такого положения дел.

• Перспектива быть убитым роботами может повысить уровень беспокойства, по крайней мере, среди гражданского населения.

99. Последствия для военной культуры неизвестны, и, как следствие, БАРС могут подрывать системы государственной и международной безопасности.

I. БАРС и режимы ограничения вооружений

100. Договорные ограничения[76], налагаемые на некоторые виды оружия, вытекают из той нормы МГП, согласно которой средства и методы ведения войны не являются безграничными, и, как следствие, должны существовать ограничения, касающиеся правил, определяющих допустимость тех или иных видов вооружений[77]. В соответствии с клаузулой Мартенса запрещаются такие виды оружия, которые противоречат «требованиям общественного сознания». Обязательство не использовать виды оружия, имеющего неизбирательное действие и наносящего тем самым чрезмерный ущерб гражданскому населению, служит основанием для запрещения определенных видов оружия[78], а некоторые виды оружия были запрещены ввиду того, что они способны «причинить излишние повреждения или излишние страдания»[79] солдатам, а также гражданскому населению[80]. По аналогичным причинам запрещаются и некоторые другие виды оружия[81].