Знание-сила, 2009 № 07 (985)

Вот пример, взятый из практики состязаний машин в пустыне Мохаве. У одной внезапно отключился навигатор, и тогда эта «умнейшая машина», способная преодолевать десятки, а то и сотни километров по незнакомой местности, вдруг закрутилась волчком, словно пытаясь поймать «ускользающий сигнал». Технических средств без изъянов не бывает, и это может обнадежить будущие поколения борцов с «терминаторами». Порой достаточно нехитрого приема, чтобы сбить с толку датчики робота и сделать его беспомощным, беззащитным.

Например, в конструкциях будущих боевых машин огромное значение приобретут инфракрасные сенсоры: ведь и люди, и военная техника излучают тепло. Выслеживая тепловые источники, робот отделяет важные для себя объекты от незначительных. В ночное время суток такой робот имеет огромное преимущество над теми, кто воюет «по старинке». Ведь даже ночью он может точно определить, откуда раздался выстрел, потому что этому событию соответствует яркая вспышка в инфракрасном диапазоне. Однако его сенсоры можно ослепить с помощью множества огоньков. Или перехитрить противника, используя его опознавательные сигналы, и тогда робот не среагирует на приближение к нему незнакомых солдат. Останется лишь подойти к всемогущей машине и отключить ее.

Еще одно слабое место роботов — система связи с центром управления. У будущих поколений хакеров хватит работы. Несколькими нажатиями клавиш они могут выводить из строя целые армии или направлять боевые машины на своих же солдат.

Наконец, и в робототехнике неминуема своя гонка вооружений. Ведь кто лучше всех справится с вражеским роботом? Робот более совершенной конструкции. Однако эта «гонка» чревата самыми страшными, непредсказуемыми событиями. «Автоматизация поля сражения» (подобный термин используется в Пентагоне) ведет лишь к нарастанию военной угрозы.

Наш новый друг, робот, проверяет, нет ли в этой сумке взрывчатки

Поклонники боевых роботов уверяют, что машины помогут избежать лишних человеческих жертв во время войны. На самом деле, это не так. Скорее, произойдет обратное. Использование боевых роботов не спасет мирное население воюющих стран. Благодаря опознавательным сигналам «друг — враг» они относительно легко будут вычислять солдат своей армии, а вот все остальные — что военные, что штатские — останутся для них потенциальными врагами. Для мирного населения, погибшего от рук роботов, уже придумана своя сводка в статистике: «Collateral Damage», «побочный ущерб» на современном «новоязе» штабных интеллектуалов. Война будущего, несомненно, примет чудовищный размах и выродится в массовое, методичное истребление целых групп населения. Подобному технологическому «прорыву» могут порадоваться разве что диктаторы, которым больше не придется опасаться человеческого фактора.

Роботы: несколько слов о криминале и любви

Роботы становятся все разумнее; они могут уже сами многому учиться, подобно людям или животным. Недавно немецкий философ Андреас Маттиас призвал даже разработать своего рода уголовное законодательство для этих машин: они должны отвечать за причиненный ими вред. Вот что он сказал в интервью электронной версии журнала Spiegel (фрагменты беседы).

Андреас Маттиас: Вообще говоря, нет. Я сам несколько лет занимался программированием в Кассельском университете. Сделать подобное заявление меня побудил не страх перед роботами, а тот факт, что машины играют все большую роль в нашем обществе, поскольку начинают самостоятельно принимать решения. И если они допускают ошибки, то нужно заранее обговорить, кто будет отвечать за их промахи.

— Но машину ведь сделал человек? Почему бы не наказать программиста, разработавшего ее?

А.М. Нет, это в семидесятые годы мы могли думать, что раз в машину вложили определенную программу, она будет действовать строго в ее рамках. За эти десятилетия программирование изменилось. Сегодня вместо четких, конкретных команд часто используются так называемые нейрональные сети, созданные по примеру структур, существующих в головном мозге человека. Подобная сеть способна к самообучению, и мы уже не можем судить о том, чему научилась машина.

Она сама обучается, тренируется — она выходит за рамки вложенных в нее программ. От человека же она получает только определенный багаж знаний.

— Вы рассуждаете так, словно задались целью избавить производителей роботов от необходимости выплачивать огромные суммы в счет компенсации за причиненный ущерб.