Роботы-убийцы против человечества

Следует отметить, что автономность характеризует не только взаимоотношения между человеком и машиной, но и уровень сложности системы. Так случилось, что термин «автоматический» используется, как правило, для простых систем, базирующихся на элементарных механических и электромагнитных эффектах. Термин «автоматический» привычно применяется к самодельным минам в военном деле или тостерам и механическим термостатам в быту. Когда появились первые самоуправляющиеся машины, использующие последние достижения программной инженерии, их сразу стали называть автономными. Поэтому традиционно автономными системами называют сложные системы, предусматривающие такие программные решения, как нейронные сети, глубокое обучение, самосовершенствующиеся программы и т. п. Наконец, несколько слов следует сказать по процессу принятия решения.

Автономными, как правило, называются роботизированные системы, где функция принятия решений реализована через те или иные программные продукты, размещенные в самом устройстве, либо в «облаке». В автономных системах блок принятия решений представлен сложными разнообразными алгоритмами и не требует присутствия человека. Фактически автономные роботизированные системы обладают полной независимостью в решении, по крайней мере, некоторых из поставленных перед ними задач. Например, на самой ранней стадии дроны были автономны в части решения задач навигации, обеспечения полета и т. п., но человек принимал окончательные решения об открытии огня на поражение. На наш взгляд по критерию принятия решений подавляющая часть систем пока является автономной. Лишь в последние пару лет появились БАРС, где решение об открытии огня принимается на алгоритмическом уровне.

БАРС ведут к экономии затрат

БАРС не обязательно могут быть идентифицированы как малозатратные. Но они во всех случаях снижают затраты, связанные с человеческим фактором.

С одной стороны элиминация человеческого фактора позволяет экономить на затратах, связанных с персоналом. С другой стороны – во многих средах исключение человека резко повышает надежность, живучесть и боеспособность систем. Таким образом, сама по себе БАРС может стоить существенно больше сменяемой ею человеко-машинной боевой системы, но при этом, конечная ее экономическая эффективность окажется выше как за счет снижения эксплуатационных затрат, так и за счет повышения сроков боевой эксплуатации.

Как показывает опыт гражданского сектора БАРС различного функционального и средового назначения обладают существенно более высоким уровнем модульности по сравнению с человеко-машинными системами. Иными словами, БАРС не только для различных задач, но даже для различных родов войск могут опираться на различные наборы модулей в рамках единой аппаратной и программной платформы. Этого никогда не удается добиться в условиях гибридных – человеко-машинных систем. В этих условиях, несмотря на то, что затраты, связанные с разработкой и испытанием подобной многомодульной платформы могут значительно превосходить расходы на изготовление отдельных военных гибридных человеко-машинных роботизированных систем, совокупные итоговые затраты на подобные системы окажутся не на проценты, а в разы выше, чем расходы на многомодульную платформу. К тому же дополнительная экономия может быть обеспечения за счет технического обслуживания, ремонта и обновлений единой модульной платформы.

БАРС также позволяют обеспечить экономию средств на обучение командиров и солдат управлению робототехническими системами. Понятно, что вряд ли в ближайшее время стоит ожидать появления БАРС в полном тотальном смысле этого слова. Уровень развития машинного обучения алгоритмизации и программных решений пока не позволяет оставить БАРС полностью вне контроля человека. По крайней мере, в ближайшие годы даже для БАРС, которые будут управляться без участия человека, за человеком необходимо оставить функцию возможности отключения (уничтожения) или взятия управления на себя исключительно в части возврата БАРС на базу. Вполне понятно, что такого рода контролеры сложных БАРС будут относиться к военной элите, их подготовка и обучение потребует значительных средств. Однако, исходя из опыта эволюции вооружений и гражданского опыта развития робототехнических систем видно, что такого рода контролеров будет необходимо существенно меньше, чем операторов в боевых гибридных человеко-машинных системах. Подготовка и повышение квалификации операторов, а также их переподготовка на новые робототехнические системы уже сегодня является одной из заметных и быстрорастущих статей бюджета вооруженных сил. Если в ближайшее время не будет обеспечен переход к БАРС, то у вооруженных сил могут возникнуть большие проблемы с дальнейшим увеличением этой статьи расходов, а также поиском специалистов, способных быть операторами все более сложных многофункциональных и вероятно смертоносных гибридных человеко-машинных боевых систем.

Возможности и ограничения БАРС