Право и политика в компьютерном круге

Как показывает опубликованный в июне 1984 г. доклад профессиональной группы «Общественная ответственность специалистов по вычислительной технике», этот проект представляет большую опасность²⁴. Обеспокоенность специалистов понятна. Без ЭВМ немыслимы ни ракеты, ни авиация, ни флот в том виде, в котором они существуют ныне. Человеческая мысль не может обеспечить быстроты, необходимой для учета всех параметров, нужных для вычисления траектории ракеты или прокладывания курса. Компьютер перестал быть просто вычислительным устройством, дающим информацию для принятия решений человеку. Сегодня военные передоверяют принятие некоторых решений машинам, программируемым заранее. В современном конфликте военачальник, как правило, лишен визуальной информации. В его распоряжении — лишь кодированные сообщения, поставляемые компьютерами и ими же переведенные на естественный язык. Свобода выбора для человека при таком положении становится все иллюзорнее.

Вспоминается поэтическое описание воздушного боя прошедшей войны:

Я — ...

истребитель,
мотор мой звенит.
Небо — моя обитель.
А тот, который во мне сидит,

считает, что он — истребитель.
. . . . . . . . . . . . . . . .

Что делает он — ведь сейчас будет взрыв!..

Но мне не гореть на песке,—
запреты и скорости все перекрыв,
я выхожу из пике²⁵.

Из литературного приема, называемого «остранением», ситуация стала реальностью, чуть ли не техническим описанием работы авиационных систем. Пилот истребителя, поднимающегося в небо, — хозяин своего самолета лишь в той мере, в какой это позволяет ему компьютер. Летчик не имеет возможности идти на риск, не совместимый с летными характеристиками полета. Более того, можно сделать так, чтобы самолет не подчинялся приказам, противоречащим командам компьютера. ЭВМ способна отключить ручное управление и также автоматически привести ракеты в боевую готовность.

Пока что компьютеры не способны думать, рассуждать или читать мысли. Но в проекте «Стратегическая информатика» речь идет о компьютерах пятого поколения, и по заказу Пентагона фирма «Макдоннел-Дуглас» уже работает над компьютерной системой, которая будет сканировать волны, исходящие от мозга пилота, следить за пульсом, сокращениями сердечной мышцы, другими жизненно важными функциями его организма и на основании этого определять боеспособность пилота, выдавая ему ровно столько информации, сколько он в состоянии воспринять в данный момент.

Управление перспективного планирования создает и так называемого «помощника пилота» — робота, помогающего летчикам в условиях воздушного боя выполнять операции, которые сейчас делаются вручную, например обходные маневры с целью уйти от ракет противника. Робот будет выполнять голосовые команды пилота и отвечать ему тоже в речевой форме²⁶.

В осуществлении «стратегической компьютерной инициативы» способность систем сбора и обработки данных (военные называют их «три К» или «К³» («К» в кубе) в соответствии с их тройной функцией: командование, контроль, коммуникации²⁷) следить в реальном масштабе времени за развертыванием конфликтов на различных театрах военных действий с тем, чтобы сохранить контроль над участвующими в боях воинскими частями, превратилась в важнейший боевой фактор. Но системы «три К», задуманные для установления строгого контроля, страдают врожденными пороками: во-первых, они исключительно уязвимы для воздействия электронными импульсами; во-вторых, регулярно «обнаруживая» ложные атаки, они неоднократно приводили к объявлению боевой готовности. Причиной последнего может оказаться как дефект одного из электронных компонентов, несовершенство математического обеспечения, неправильное истолкование природного явления (перелет стаи диких гусей был принят однажды за «советскую ракетную атаку»), так и ошибка оператора, вызывающая немедленную реакцию системы. Примеров этому немало.

Так, крупный скандал разразился в Пентагоне в 1984 г., когда обнаружилось, что миллионы микрочипов компании «Тексас инструментс», широко используемых в современных системах оружия, не отвечают элементарным требованиям надежности. Компания просто-напросто не проводила многих существенно важных испытаний и проверок чипов перед их монтажом в системах боевой техники. Такие неисправные чипы в радарах, системах раннего обнаружения (в том числе и спутниковых) оказываются ответственными за ложные тревоги. Случай с «Тексас инструментс» — отнюдь не уникальное событие. В том же 1984 г. стало известно, что Национальная корпорация полупроводниковой техники фальсифицировала результаты испытаний кремниевых чипов, предназначенных для военных систем²⁸. Ради доходов возможностью того, что из-за неисправных электронных цепей может погибнуть человеческая цивилизация, просто пренебрегли.