Прицельное мышление. Принятие решений по методикам британских спецслужб

Термин «воздействие» («фрейминг») является полезной метафорой, грубым описанием мыслительного процесса, который бессознательно окрашивает нашу схему ситуации, выстроенную на основе умозаключения. Чудесные яркие картины Говарда Ходжкина, например, простираются за пределы холста, на всю площадь рамы. То есть рама является неотъемлемой частью картины и обусловливает наше восприятие того, что мы видим на самом полотне. Эффект задания очертаний возникает изнутри, когда наш разум реагирует на то, что мы видим, и на самом деле чувствуем и вспоминаем. Частью работы редакторов телевизионных новостей является выбор таких видеофрагментов, которые будут предоставлять визуальные и слуховые подсказки для формирования нашего понимания новостей. Как известно режиссерам фильмов, эффект изображения, воспроизводящегося вместе со звуком, сильнее при совместной работе – дабы помочь нам создать в сознании именно такое мощное представление сцены, которого желал режиссер. Когда на экране убийца поднимается по лестнице с ножом в руке, то диссонансные партии скрипок создают напряжение, тогда как помпезные звуки оркестра снимают напряжение и счастливая пара танцует на закате в конце фильма. Современная политическая реклама научилась всем этим трюкам и играет на наших чувствах, чтобы мы реагировали на информацию эмоционально, а не рационально.

До современного момента истории только человек мог осмысливать факты. Завтра, однако, это может быть машина, использующая программу искусственного интеллекта для вывода смысла из данных, а затем добавить соответствующие устройства «воздействия» к искусственно созданному выводу. Уже существует компьютеризированный анализ настроений в социальных сетях, позволяющий оценить склонность толпы к насилию. Осторожное использование искусственного интеллекта может сократить время, необходимое для предупреждения аналитиков о развивающемся кризисе.

Однако существует опасность позволить машинам сделать вывод о том, что происходит. Фондовые биржи уже столкнулись с проблемами «внезапных крахов», когда случайное падение ключевой цены акций запускает посредством программ искусственного интеллекта автоматизированную продажу, обнаруживающуюся другими торговыми алгоритмами – которые, в свою очередь, запускают программу продаж, а затем и цепную реакцию демпинга акций. Поэтому пришлось сконструировать автоматические программные тормоза, дабы предотвратить падение рынка из-за такого процесса автоматизации. Это была бы опасная параллель к тому, как строится работа на основании причинно-следственного вывода, автоматически вызывающего изменения в оборонительной позиции в ответ на обнаруженные кибератаки. Если обе стороны в своих состязательных отношениях взяли на вооружение такую технологию, то мы можем войти в мир доктора Стрейнджлава[28]. Тем более, если в этой адской игре создания автоматических выводов участвуют более двух игроков. По мере того как искусственный интеллект все больше проникает в нашу повседневную жизнь, мы не должны позволять ему беспрепятственно формировать идеи от нашего имени, не ставя нас об этом в известность. Сегодня алгоритм выбирает, какая реклама в интернете, по его мнению, лучше всего соответствует нашим интересам – да, нас раздражает, когда этот выбор ошибочен, но он не наносит нам вреда. Но что случилось бы, если это был алгоритм кредитного рейтинга, тайно решающий, что ваши просмотры и история покупок в интернете указывают на слишком высокое тяготение к риску? Чего доброго, вам было бы отказано в оформлении кредитной карты или получении доступной страховки мотоцикла.

Вернемся к теориям Байеса: научный выбор объяснительной гипотезы

Аналитик разведслужбы применяет на втором этапе методики ВООВ общепринятые научные методы ради объяснения повседневного мира. Результатом должна быть объяснительная гипотеза, которая наилучшим образом соответствует наблюдаемым данным, с наименьшими сформулированными излишними допущениями и с альтернативными гипотезами, которые были высказаны против доказательств и признаны менее удовлетворительными. Самые лучшие идеи в науке, после достаточного числа повторений в различных экспериментах, удостаиваются названия «теории». В разведывательной работе, как и в повседневной жизни, мы обычно остаемся на уровне объяснительной гипотезы, сознавая, что в любой момент могут появиться новые доказательства, которые заставят пересмотреть нашу оценку. Примером в предыдущей главе был Карибский кризис, когда ВВС США сфотографировали объекты и транспортные средства, замеченные на Кубе, и сопоставили фотоснимки с секретной информацией, полученной от агента МИ-6 и ЦРУ полковника Пеньковского. Это сопоставление дало аналитикам возможность предупредить президента Кеннеди, что он столкнулся с Советским Союзом, размещающим на Кубе ядерные ракеты средней дальности.