Роботы-убийцы против человечества

Необходимо подчеркнуть, что в реальности все возможности боевых человеко-машинных систем пока не используются. И дело здесь даже не в том, что эти системы отличаются от БАРСов, но и в том, что пока многие роботизированные системы стоят очень дорого. В этих условиях их применение сдерживается опасениями командования потерять столь дорогостоящие системы. До сегодняшнего дня применяемые в вооруженных силах роботизированные системы являются результатом многочисленных компромиссов, связанных с порядком формирования производственных программ и тендеров. Этот порядок не позволяет принять участие в конкурсах наиболее инновационным молодым командам, стартапам и университетским группам, которые в результате разрабатывают различного рода гражданских роботов, существенно более эффективных, чем техника, используемая Пентагоном. Бюрократические процедуры, зацикленность на избранных подрядчиках и не всегда оправданные сложные системы согласований приводят к тому, что вооруженные силы страны не могут воспользоваться всем инновационным потенциалом Америки, демонстрируемым в гражданском секторе и в коммерческих разработках. При всех отмеченных недостатках роботизированные системы развиваются в направлении все большей автономности.

Эффект автономности

Автономность – это способность машины (робота) выполнять задачи без участия человека. Автономные роботы не предполагают наличия управляющего оператора. Автономия позволяет добиться нескольких ключевых эффектов, включающих в себя:

• увеличение надежности и повышения выживаемости;

• быстроту реакции и повышение адаптивности;

• повышение точности и десубъективизация при выполнении задач, элиминация человеческих ошибок;

• способность осуществлять операции в высокорискованной, либо вообще не приспособленной для присутствия человека среде, или в среде, требующей от дистанционного оператора невыносимых эмоциональных и сенсорных нагрузок.

Автоматизированные функции выполняют не только БАРС, но и человеко-машинные системы. Такая ситуация характерна не только для военного, но и для гражданского сектора. Однако именно в гражданском секторе мы в наиболее наглядном виде видим эволюцию роботизированных систем. Сначала автомобили были полностью механическими. Затем появились автоматические коробки передач, автоматические приборы контроля устойчивости, сцепление, подушки безопасности и т. п. Относительно недавно автомобили получили датчики дистанционного контроля при парковке, круиз-контроль и т. п. Сегодня на улицах уже нескольких американских городов ездят автомобили Google, которые, по сути, представляют собой автономные робототехнические средства. Пассажиры автомобилей Google никоим образом не участвуют в управлении. По тому же пути будут неизбежно развиваться и военные АРСы.

Когда мы рассматриваем вопрос автономии ро-бототехнических систем, его нужно изучить по трем параметрам:

• первый – распределение функций командования и контроля между человеком и машиной;

• второй – уровень комплексности робототех-нической системы;

• третий – каким образом в системе принимаются решения о ее действиях.

Машины, которые в одних ситуациях действуют автономно, а в других – нуждаются в решении и управляющем воздействии человека, называют полуавтономными. Как правило, человек вмешивается в такие системы в случае возникновения нештатных операций. В полуавтономных системах предусмотрено два контура управления – чисто автоматический и человеко-машинный при выявлении неисправностей, либо при сигнализировании об определенных ситуациях, связанных с необходимостью принятия именно человеческого решения. Полуавтономные системы получили особое развитие в конце прошлого века и в начале нынешнего веков. Их распространение было связано с тем, что до самого последнего времени существовала твердая убежденность относительно способности машин принимать решения более оптимальные, чем человек только в стабильных, устойчивых, так называемых – счетных ситуациях. Однако с появлением Больших Данных и соответствующих методов их обработки и анализа, включающих «глубокое обучение» и самосовершенствующиеся программы, выяснилось, что во многих нестабильных, неопределенных ситуациях машины принимают более эффективные решения по сравнению с человеком. Поэтому сегодня все большее распространение в гражданском секторе и бизнесе получают полностью автономные робо-тотехнические системы.