Цифровая революция. Преимущества и риски. Искусственный интеллект и интернет всего

Короче говоря, мы все чаще оказываемся в удобных пузырях, из которых быстро исключаются неприятные или тревожные новости, мнения, предложения и лица – если они вообще появляются. Опасность состоит в том, что общество в целом может распасться на множество таких пузырей, каждый из которых будет блаженно отделен от других. И, поскольку они расходятся, каждый с большей вероятностью будет потревожен или шокирован всякий раз, когда они соприкоснутся. То, что когда-то было динамичным открытым обществом, становится совокупностью множества закрытых микросообществ, сожительствующих на одной и той же территории, подверженных расколам и беспорядкам.

Наши ослабленные умы

Когнитивные способности также могут быть ослаблены социальными сетями и интеллектуальными устройствами. Использование социальных сетей может усилить когнитивные предубеждения и врожденные ошибки принятия решений, описанные в книге «Думай медленно… Решай быстро» лауреата Нобелевской премии Дэниела Канемана.

Новостные ленты и поисковые системы, которые предоставляют результаты, соответствующие нашим предпочтениям, увеличивают предвзятость подтверждения. В результате мы интерпретируем новую информацию, чтобы подтвердить наши предвзятые мнения. Приложения для обмена сообщениями в социальных сетях быстро снабжают пользователей новой информацией, вызывая предвзятость новизны. В результате мы переоцениваем важность недавних событий над событиями прошлого. В социальных сетях мы имитируем и подтверждаем действия и убеждения других, чтобы соответствовать нашим социальным группам, которые становятся отголосками конформизма и группового мышления.

Быстрый темп обмена сообщениями и выпусками новостей, а также осознанная необходимость быстро реагировать на них побуждают «думать быстро» (рефлексивно и эмоционально) в отличие от «медленного мышления» (рационально и рассудительно). Даже авторитетные новостные агентства теперь публикуют эмоциональные заголовки, чтобы поощрять вирусное распространение своих новостных статей.

Люди тратят меньше времени на чтение своего контента, даже если они чаще делятся им. Системы обмена сообщениями в соцсетях оптимизированы под распространение коротких фрагментов, в которых часто упускается важный контекст и нюансы. Это может способствовать распространению как преднамеренно, так и непреднамеренно неверно истолкованной информации. Краткость сообщений в социальных сетях в сочетании с яркими визуальными образами может помешать читателям понять мотивы и ценности других.

Потребность в осознании

Преимущество в когнитивной войне получает тот, кто ходит первым и выбирает время, место и средства наступления. Когнитивная война может вестись с использованием множества векторов и средств массовой информации. Открытость платформ социальных сетей позволяет злоумышленникам легко нацеливаться на отдельных лиц, избранные группы и сообщества, используя обмен сообщениями в социальных сетях, влияние в социальных сетях, выборочную публикацию документов, обмен видео и т. д.

Надлежащая защита требует, как минимум осознания того, что ведется кампания когнитивной войны. Прежде чем лица, принимающие решения, примут решение действовать, требуется способность наблюдать и ориентироваться. Технологические решения могут дать ответы на некоторые ключевые вопросы: идёт ли кампания? Кто ее ведет? Каковы могут быть ее цели? Наше исследование показывает, что существуют шаблоны таких кампаний, которые повторяются и могут быть классифицированы. Они могут даже выявлять «подписи», уникальные для конкретных субъектов, которые могут помочь их идентифицировать.

Особенно полезным технологическим решением может быть система мониторинга и оповещения о когнитивной войне. Такая система могла бы помочь выявлять кампании когнитивной войны по мере их возникновения и отслеживать их по мере развития. Она может включать в себя информационную панель, которая объединяет данные из широкого спектра социальных сетей и вещательных СМИ. Система будет отображать географические карты и карты социальных сетей, которые показывают развитие подозрительных кампаний в течение определенного времени.

Определяя как географические, так и виртуальные местоположения, в которых появляются сообщения и новостные статьи в социальных сетях, обсуждаемые темы, тональность и лингвистические идентификаторы, время выпуска релизов и другие факторы, панель управления может выявить связи и повторяющиеся закономерности. Можно было бы наблюдать связи между учетными записями в социальных сетях (например, репосты, комментарии, взаимодействия) и временем публикаций. Использование алгоритмов машинного обучения и распознавания образов может помочь быстро идентифицировать и классифицировать появляющиеся кампании без вмешательства человека.

Такая система позволила бы осуществлять мониторинг в реальном времени и своевременно предупреждать лиц. принимающих решения в НАТО и Североатлантическом союзе, помогая им формулировать соответствующие ответы на кампании по мере их появления и развития.