Новый цифровой мир

Устройства, способные воевать без участия человека, не смогут заменить людей ни непосредственно в бою, ни в центре принятия решений до тех пор, пока искусственный интеллект не заменит человеческий мозг полностью. Ошибки совершают даже самые умные машины. Как отмечает Питер Сингер, когда во время Первой мировой войны на полях сражений появился танк, он казался непобедимым, пока кто-то не придумал противотанковый ров. Бывший министр обороны Афганистана Абдул Рахим Вардак, с которым мы познакомились в Кабуле незадолго до его отставки, с улыбкой рассказывал нам, как в 1980-е годы он вместе с другими моджахедами боролся с советскими танками, замазывая грязью их смотровые щели и сооружая покрытые ветками и листвой ямы-ловушки вроде тех, которые за десять лет до этого вьетконговцы использовали против американских солдат. Сингер проводит более современные параллели: «Наземные роботы, которых наши солдаты используют в Ираке и Афганистане, поразительно высокотехнологичны, однако повстанцы поняли, что они могут бороться с ними с помощью простых ловушек, всего лишь выкапывая глубокие ямы, в которые те падают. Они даже подобрали определенный угол наклона стен, чтобы роботы не выбирались обратно». Интеллект этих роботов ограничен, и, пока они проходят полевые испытания, их операторы и разработчики будут постоянно сталкиваться с вражескими контрмерами, которые не смогли предугадать. Им придется постоянно совершенствовать свои продукты. Подобные асимметричные ответы противника окажутся непреодолимой трудностью даже для самых совершенных технологий.

Однако человеку мало одних лишь навыков решения задач. Есть уникальные человеческие черты, важные в военных условиях, которые даже определить трудно, не то что наделить ими роботов: это свое мнение, эмпатия и доверие. Что-то наверняка будет утрачено, если роботы возьмут на себя функции солдат. В ходе наших бесед с военнослужащими сил специального назначения все они, ссылаясь на свой боевой опыт, подчеркивали чрезвычайную важность доверия к однополчанам и чувства братства. Некоторые из них учились вместе и многие годы воевали бок о бок, изучив привычки и почти без слов понимая действия и ход мыслей друг друга. По их словам, они могут общаться при помощи взгляда. Смогут ли роботы когда-нибудь перенять человеческие способности считывать невербальные подсказки?

Способен ли робот на смелый поступок? Может ли пожертвовать собой? Может ли робот, обученный обнаруживать и уничтожать цель, иметь какие-то понятия об этике или сдержанности? Сможет ли он когда-нибудь отличать ребенка от невысокого взрослого? Если робот застрелит мирного жителя, кого в этом винить? Представьте, что лицом к лицу столкнулись вооруженный наземный робот и шестилетний мальчик с аэрозольным баллончиком краски, которого послали повстанцы. Как бы ни действовал робот, автономно или под управлением человека, у него есть две возможности: выстрелить в невооруженного ребенка или оказаться выведенным из строя, поскольку мальчишка просто ослепит его, распылив краску на высокотехнологичные камеры и датчики. Как бы поступили вы, управляя роботом, задает вопрос Сингер. Мы не можем отдавать роботов под трибунал или как-то еще наказывать их. Еще многие годы доминирующую роль в военных операциях будут играть люди, несмотря на то что роботы становятся все более разумными и все лучше интегрируются в «человеческие» боевые подразделения.

Новые способы вмешательства

Переход конфликтов на новую стадию, для которой характерно применение виртуального и автоматического оружия, означает, что в будущем в распоряжении государств-агрессоров окажется более широкий диапазон средств ведения войн. Расширятся возможности для вмешательства в конфликт со стороны граждан, бизнес-сообщества и иностранных государств.

На международном уровне единственным органом, который, с одной стороны, представляет все страны мира, а с другой – способен придать легитимность иностранному военному вмешательству, является Совет безопасности ООН. Маловероятно, что страны мира в достаточной мере серьезно пересмотрят полномочия, которыми была наделена организация при ее создании в 1945 году, несмотря на призывы к действию и все возрастающее давление на власть со стороны гражданского общества. Почти невозможно будет получать новые мандаты и право на интервенцию, учитывая то, что для изменения Устава ООН требуются голоса 194 стран-участниц.