Нервные государства

В ходе Холодной войны ожидания военных от компьютеров продолжали расти. Если SAGE требовалось, чтобы за данными о воздушных аппаратах следил человек, системы, разработанные в 1960-х годах, снизили его участие в механизмах ядерной защиты. Теперь компьютеры потенциально могли сами обнаруживать приближающиеся ракеты и самостоятельно инициировать ответ. Эти машины были достаточно велики, чтобы занимать целую комнату, потребляя огромные количества электроэнергии и вложенных в науку денег. Но военные исследователи утверждали, что только когда интеллектуальные системы защиты перейдут на сверхчеловеческий уровень, Запад будет защищен от возможной советской атаки.

Сбор разведданных и эффективные коммуникации давно являются необходимыми для успешного ведения войны. Но после того, как бомбардировки с воздуха уступили место угрозе межконтинентальных баллистических ракет, чтобы контролировать последние, военные технологии превзошли способности человеческого разума. Эти угрозы повысили приоритет таких научных направлений, как информатика, теория игр, бихевиоризм и когнитивистика в рамках оборонной политики США. Там, где столь много зависит от одного конкретного решения (как характерно для ситуаций с участием ядерного вооружения), вопрос «рациональности» действий требует решения с помощью наилучших механических и математических средств из возможных.

Аналитический центр «RAND Corporation» получил известность за свои разнообразные симуляции ядерной войны, разработанные с целью определения оптимальной стратегии на случай, если таковая война когда-нибудь случится. «Виртуальная реальность» изначально задумывалась как способ тестирования различных военных стратегий ввиду отсутствия права на ошибку в реальном мире. Наполеон превратил войну в противостояние между населениями стран, Холодная война довела это до состязания национальных разведывательных инфраструктур как в плане шпионажа, так и по части «искусственного интеллекта». Данная парадигма жива и по сей день. Владимир Путин выразил точку зрения, регулярно продвигаемую такими, как Илон Маск, что в XXI веке будет доминировать та страна, которая сумела опередить остальные в развитии искусственного интеллекта[194].

Первоначальным вопросом, который ставил Тьюринг, было – может ли машина «мыслить», и сам он утверждал, что да. Но эта проблема быстро развернулась в другую сторону и превратилась в спекуляцию на тему того, какой «машиной» является разум. В период 1940–1959 годов, когда компьютеры стали наделяться едва ли не метафизическими, человеческими свойствами, ученые-когнитивисты представляли людей как информационные контуры. Разум и машина оказались доступными для прямого сравнения, и встал вопрос о том, что из них лучше для чего подходит. Там, где стоит задача, требующая скоростных вычислений или математического моделирования (что характерно для отслеживания и прогнозирования воздушных атак), машина неизбежно превосходит своего создателя. После того как компьютеры смогли «учиться» широкому спектру человеческих языков, благодаря проектированию их по принципам, схожим с устройством человеческого мозга, все больше культурных форм коммуникации стало можно оцифровать. В какой-то момент данной тенденции развития единственной функцией человека останется иметь чувства, намерения и желания, а техника сделает все остальное.

Одно из самых привлекательных свойств компьютеров, с точки зрения различных предпринимателей из Кремниевой долины и идеологов вроде Рэймонда Курцвейла, состоит в том, что им не нужно умирать, как происходит с человеческим телом. Таким образом при должном улучшении человек мог быть жить намного дольше или даже вечно. Если технологии позволят делиться мыслями с другим мозгом напрямую, то в какой-то момент человеческий разум получится загрузить в компьютер целиком, где его жизнь будет потенциально бесконечной. Эта безумная фантазия, известная как «сингулярность», симптоматична для фундаментально военного предназначения ЭВМ, изначальный смысл существования которых заключался в том, чтобы любой ценой сохранить «наше» существование и уничтожить «их». Перефразируя Гоббса, это мечта о жизни как «беспросветной, тупой и долговременной». Здесь мы наблюдаем еще одно проявление социального дарвинизма, где истина определяется банальным выживанием перед лицом угроз, а не рассудком или консенсусом.