Истоки победы. Как разрушительные военные инновации определяют судьбы великих держав

Риски, связанные с несанкционированным поведением ИИ, могут быть особенно острыми в случаях, когда большое количество роботов управляется системой ИИ, работающей на централизованном сервере, или когда многие роботы управляются одинаковыми системами ИИ. В таких случаях, если ИИ получает одни и те же искаженные стимулы, это может привести к крупномасштабным одновременным поражениям дружественных сил. Например, успешная атака противника на дружественный сервер, на котором ИИ управляет автономными системами оружия, может вызвать катастрофические последствия несколькими способами. ИИ может отдать приказ о массированной атаке на дружественные силы или нанести удар по некомбатантам. Конечно, возможно, что, поскольку ИИ может предпринимать нежелательные действия, усилия противника по подрыву управляемых ИИ действий могут привести к обратному результату. Например, ИИ может начать атаки на вражеские цели, в результате которых дружественные силы предпримут действия, пересекающие "красные линии" противника, что приведет к непреднамеренной - и нежелательной с точки зрения противника - эскалации войны.

Если противнику удастся испортить данные, используемые для разработки ИИ, то диагностировать причины неправильного поведения системы ИИ будет особенно сложно. Это связано с тем, что внутренняя работа алгоритмов машинного обучения зачастую непрозрачна и непредсказуема даже для их разработчиков. Это вряд ли внушает военным организациям доверие при рассмотрении вопроса о передаче принятия решений о жизни и смерти от человека к «призраку в машине». Но учитывая очень сжатые временные рамки, связанные со многими операциями, такими как воздушная, противоракетная и кибернетическая оборона, давление, оказываемое на них, может оказаться непреодолимым, даже если люди, управляющие ИИ, могут не понять, что их системы вышли из строя, пока не произойдет катастрофа. Как ни странно, именно там, где поддержка ИИ нужна больше всего, она также создает наибольшие риски.

Резюме

Последние десятилетия стали свидетелями впечатляющих достижений в области искусственного интеллекта. Но как бы люди ни старались заставить искусственный интеллект работать на них, он обладает собственным разумом и способностью действовать во благо или во вред тому, что он узнал. Им не будет двигать чувство доброты или злобы. Он не будет испытывать удовлетворения или угрызений совести от своих действий, не будет уставать при выполнении задач, страдать от выгорания, звонить больным или вести переговоры об улучшении условий труда.

Если ИИ будет развиваться, он почти наверняка окажет значительное и потенциально глубокое влияние на военный баланс и на характер военных действий, даже на их частоту. Как заключил Национальный совет по разведке США, «растущая автоматизация ударных систем, включая беспилотные вооруженные дроны, и распространение действительно автономных систем оружия потенциально снижают порог для начала конфликта, поскольку меньшее количество жизней будет подвергаться риску».

Учитывая этот прогноз, любая армия, которая не находится на переднем крае развития ИИ, рискует оказаться в невыгодном положении. Следовательно, любой армии, имеющей возможность конкурировать, будет трудно удержаться от этого. Более того, в отличие от разработки ядерного оружия или баллистических ракет, военные не обладают монополией, когда речь идет об ИИ. Сегодня многие коммерческие фирмы активно продвигают разработки в области ИИ. Хотим мы того или нет, но джинн ИИ выпущен из бутылки.

При этом ИИ - действительно обоюдоострый меч, его "мышление" не полностью прозрачно для его создателей. Но именно в этом и заключается суть: Ценность ИИ и его опасность - в его способности удивлять, находить "решения" проблем, которые ускользают от человеческого разума, и действовать в соответствии с ними.

Аддитивное производство: Делать больше и лучше с меньшими затратами

Аддитивное производство (АМ), часто называемое "3D-производством" (или "3D-печатью"), обещает стать началом четвертой промышленной революции. Первая промышленная революция возникла в конце 1700-х - начале 1800-х годов и ознаменовалась изобретением парового двигателя, ткацкого станка и телеграфа. Эти достижения заложили основу для первой волны экономической глобализации. В конце 1800-х годов появление телефона и беспроводной связи (радио) еще больше расширило возможности коммуникации, а изобретение лампочки и электродвигателя позволило странам использовать огромный потенциал электричества. Внедрение Генри Фордом первого сборочного конвейера в 1913 году сделало Вторую промышленную революцию революцией "массового производства", сократив время создания автомобиля модели Т более чем на две трети.