Право и политика в компьютерном круге

Трагическая гибель «Челленджера» подтвердила ненадежность компьютеров: в течение по меньшей мере пятнадцати секунд до взрыва они не сигнализировали об опасности. Но эта катастрофа выявила и еще один фактор риска, существо которого предельно точно сформулировано в Заявлении Всемирного Совета Мира. В нем, в частности, говорится:

«Размышляя о происшедшей трагедии, мы не можем не задаться вопросом: каким был бы результат этого несчастного случая, если бы он произошел в космосе после развертывания там ударных вооружений? Во время мирных космических полетов какая-то техническая неполадка или ошибка в расчетах может быть выявлена и исправлена в дальнейшем, но нарушение функционирования военных космических объектов может лишить нас будущего. Ослепительная вспышка над Флоридой болью отозвалась в наших сердцах. Но представим себе, что эта вспышка обнаружена военным роботом, который лишь замерит ее интенсивность и подаст сигнал к началу нападения. В этом случае беспощадные лазерные лучи, направляемые компьютером, не знающим колебаний, уничтожат искусственные спутники, самолеты, корабли и заставят запылать города один за другим»⁸

.

В самом деле, кому в такой ситуации может быть точно известно, был ли такой взрыв результатом неисправности систем корабля или он был уничтожен противоспутниковым оружием? Собственно, это так и останется для всех неизвестным, поскольку на взрыв моментально среагировали бы компьютеры, управляющие системой развернутых в космосе вооружений. От них поступила бы только одна команда — задействовать эти вооружения. «Кто вообще может поручиться, что тогда может произойти? — сказал М. С. Горбачев на встрече с представителями международного форума ученых за прекращение ядерных испытаний. — Сейчас пока еще летают десятки спутников и космических кораблей, но то и дело происходят всякого рода чрезвычайные происшествия с ними. А если пойдут эшелоны военных систем? Вычислительная техника ими управляет, выдает информацию, но она не занимается тем, по каким причинам что-то там происходит. В результате „решения”, от которых зависят судьба и жизнь миллионов, будут приниматься не на политическом, а на техническом уровне. Вся цивилизация окажется заложником техники»⁹

.

Программисты никогда не могут быть вполне уверены в результатах проверок. Небольшие ошибки, которые могут привести к хаосу во всей системе, — их вечный бич. Если программа состоит «всего» из миллиона команд, «проверка всех, вариантов заняла бы всю жизнь всех людей, которые до сих пор жили на земле», — отмечает Джоуэл Флайсс, президент южнокалифорнийской фирмы «Пропрайетари сафтуэр системз»¹⁰.

В вычислительных центрах всего мира, где работают со сложными моделями, ЭВМ всегда являлась предметом бесконечных шуток и подозрений в связи с нечистой силой. «Когда беседуешь с людьми, составляющими огромные программы, — признается Д. Парнас, — складывается впечатление, что разговариваешь с социологами. Они скажут вам, что, когда они запускают свою программу, она делает странные вещи, которые невозможно предугадать… Задаешь им вопрос, что сделает их программа в такой-то и такой-то ситуации, а они отвечают: „Не знаю, давайте испробуем”»¹¹.

О том, насколько уязвимым будет математическое обеспечение системы СОИ, свидетельствуют следующие примеры:

когда в 1979 году американский космический зонд, запущенный на Венеру, не достиг своей цели, в космосе пропал почти миллиард долларов. Причина: в программе коррекции курса зонда запятая была спутана с двоеточием;

в 1983 году компьютер, принадлежащий местным органам власти, стал причиной наводнения в юго-западной части США. В компьютер были введены неверные данные о погоде, в результате чего он дал ошибочный сигнал шлюзам, перекрывающим реку Колорадо;

один из вариантов навигационной программы для истребителя «F-16» привел бы к тому, что всякий раз, когда самолет перелетает экватор, он будет переворачиваться. Эта слабость была выявлена при компьютерном испытании модели, но многие менее серьезные ошибки остаются невыявленными;