Цифровой журнал «Компьютерра» № 66

"Полностью ли мы понимаем те психологические эффекты, что воздействуют на сознание операторов, дистанционно ведущих войну с совершенно безопасного для них расстояния?" – спрашивается в документе. Ведь под войной и неизбежно сопряжёнными с ней потерями человеческих жизней всегда понималось нечто совершенно иное. В современной этике, отмечают авторы, имеется целое направление, где предполагается, что для того, чтобы война была морально оправданной – в отличие от просто юридически законной, – «она должна увязывать убийство врагов с элементом самопожертвования человека или, по крайней мере, с риском для собственной жизни».

Особое беспокойство должно вызывать очевидное и всё более сильное размытие роли человека в убийствах и той ответственности, которую должен нести всякий человек за преступное лишение жизни других людей. Совершенно справедливо задаются вопросы такого рода: «Какова же оказывается роль человека с моральной и этической точек зрения в случае применения автоматических систем убийства? Для автономной системы робота школьный автобус и танк — это, в сущности, одно и то же, просто элементы алгоритма в программе... У робота нет ощущения крайности, допустимости доступных способов и средств, нет необходимости знать, почему он нацелен на уничтожение того или иного объекта...»

Как подчёркивается в отчёте, министерство обороны Великобритании «в настоящее время не имеет никаких намерений разрабатывать такие робосистемы, которые работали бы вообще без человеческого вмешательства в цепи управления боевым оружием». Но также как факт констатируется и то, что британское МО (как и американский Пентагон) всячески стремится к разработке всё более и более сложных «автоматизированных» вооружений.

Но было бы совершенно неверным считать, что авторы документа против этой тенденции или пытаются её переломить. В отчёте развёрнуто представлены всё преимущества беспилотных боевых систем – такие, к примеру, как предотвращение потенциальных потерь в жизнях членов экипажа боевых машин (что уже само по себе может служить «моральным оправданием» применения роботов). Там же добавляется: «Роботы не могут быть эмоциональными, не могут ненавидеть. Роботы не могут руководствоваться в своих действиях гневом, чтобы сорваться до преступных действий, вроде резни в Май Лаи (устроенной солдатами США над сотнями безоружных гражданских в Южном Вьетнаме в мае 1968)».

Опираясь на такого рода логику, отчёт констатирует, что «в теории, по крайней мере, автономность боевых роботов должна обеспечивать более этичные и законные военные действия». Однако на практике, как известно, всё складывается зачастую совсем иначе, нежели представляется теоретикам. Тем более что пока совершенно неясно, кто именно должен нести ответственность, если с дронами-киллерами что-то пойдёт сильно не так: «Является ли, скажем, программист системы виновным в военном преступлении, если системная ошибка приведёт в итоге к незаконным действиям и массовым убийствам? И если да, то где тут намерение, требующееся для того, чтобы несчастный случай трактовался как преступление?»

Наверное, это даже естественно, что авторы отчёта в своих попытках всестороннего анализа проблем, связанных с применением боевых роботов, не смогли удержаться и от предупреждения об очевидных уже опасностях «нарастающего и непреднамеренного сползания к реальности в духе фильмов о Терминаторе». Как говорится в этом документе, динамика технологического развития боевых роботов ускоряется такими темпами, что Великобритании уже явно пора быстро сформировать чёткую и внятную политику относительно того, что составляет «приемлемое поведение машины».

Наиболее сильная цитата на данный счёт выглядит примерно так: «Сущностно необходимо, чтобы до того, как неуправляемые человеком системы станут повсеместно распространёнными (если это уже не слишком поздно), мы обеспечили следующее: заведомо удалив наиболее ужасные из вероятных вещей или, по крайней мере, удерживая их на безопасном расстоянии, мы не подвергали рискам человеческий контроль и не делали войну наиболее вероятным исходом...»

Дополнительные фактические материалы к теме о дронах в вооружённых силах можно найти в материале "Роботы на войне".

К оглавлению

Широко шагая: андроиды из альтернативной истории Евгений Лебеденко, Mobi.ru

Опубликовано 26 апреля 2011 года

Знаете, порой бывает обидно оттого, что множество действительно великих открытый прошлого так и не были сделаны. Ветвистое причинно-следственное дерево истории принялось расти не туда, и в забвении остались подлодка «Наутилус», сыворотка невидимости и средство доктора Макропулоса. На корню засохли тропинки истории, приведшие к созданию летающего острова Лапуты и гиперболоида инженера Гарина.