Цифровая революция. Преимущества и риски. Искусственный интеллект и интернет всего

Ежемесячно миллиарды активных пользователей социальных сетей могут опубликовать в Интернете что-то провокационное. Это огромный объем информации для проверяющих факты вручную людей.

Что становится вирусным?

«Ложь летит, а истина хромает вслед за ней», – писал сатирик Джонатан Свифт в XVII веке. Недавнее исследование Массачусетского технологического института показало, что в Твиттере ложные новости с большей вероятностью станут вирусными, и за их повторное распространение понесут ответственность обычные пользователи, а не автоматизированные «боты». Люди также «ретвитят» эти ложные новости с чувством удивления и отвращения. Напротив, правдивые истории вызывают чувство печали, ожидания и доверия (и делятся ими гораздо реже).

Это порождает вопрос: следует ли нам сосредоточиться не на фактах, а на эмоциях? И можно ли обучить этому компьютеры?

Не проверяйте факты, проверяйте эмоции

Анализ настроений с использованием ИИ представляет собой совершенно другой подход к смягчению дезинформации путем обучения компьютеров распознаванию сообщений и публикаций, содержащих элементы удивления, отвращения и других эмоциональных предикторов. Они чаще связаны с ложной информацией и разжигают страсти пользователей социальных сетей.

Алгоритмы обработки естественного языка позволяют идентифицировать лингвистические индикаторы рассматриваемых эмоций. Они полностью избегают проверки фактов вручную, снижая предвзятость, а также увеличивая скорость обработки. Команда студентов Университета Джона Хопкинса создала многообещающий рабочий прототип, а их товарищи по команде из Технологического института Джорджии и Имперского колледжа Лондона разработали технико-экономические обоснования и возможные подходы к регулированию.

Не прекращайте дезинформацию, замедляйте ее

Но что делать после обнаружения очень вирусного (и, вероятно, ложного) сообщения или публикации? Аналогия с финансовыми рынками предлагает решение: автоматический выключатель, который временно приостанавливает или замедляет распространение эмоционально окрашенного контента.

Фондовые рынки избегают панических продаж, временно приостанавливая торговлю акциями, которые упали на определенный процентный порог. На Нью-Йоркской фондовой бирже продажа акций, которые падают в цене более чем на 7 %, сначала приостанавливается на 15 минут. Идея состоит в том, чтобы замедлить ход событий и позволить более холодным головам подумать. Последующее снижение цен может вызвать дополнительные приостановки торговли.

Эффект охлаждения от замедления может быть значительным. На сайте обмена сообщениями в социальных сетях сообщение, которое удваивается каждые 15 минут, может гипотетически достигнуть одного миллиона просмотров за пять часов и 16 миллионов просмотров за шесть часов. Но если его замедлить до удвоения каждые 30 минут, оно достигнет только одной тысячи просмотров за пять часов и четырех тысяч за шесть часов. Небольшие задержки в распространении вирусного контента приводят к огромным различиям в воздействии.

Такой механизм будет работать не за счет предотвращения распространения, а за счет замедления взаимодействия;

например, устанавливая периоды охлаждения между комментариями или предлагая пользователям подумать о возможных последствиях перед повторной отправкой сообщения. Механизм основан на центральном тезисе из книги лауреата Нобелевской премии Даниэля Канемана «Думай медленно… Решай быстро». Медленное мышление рационально и позволяет избежать эмоциональности быстрой реакции на неожиданные и шокирующие новости или события. Это могло бы уменьшить опасения по поводу цензуры или произвольных ограничений на свободное распространение идей. Сообщения и посты не удаляются, они остаются доступными для просмотра и обсуждения, только в более медленном темпе. Это упрощает работу того, кто выносит решение о «разрешенных высказываниях», и защищает свободы выражения мнений и публичного дискурса. Такой подход может быть реализован с помощью стимулов или регулирования на различных уровнях инфраструктуры связи: в самих компаниях-источниках, шлюзах-посредниках (или платформах промежуточного программного обеспечения), на уровне передачи сообщений (каналы связи) или даже на уровне устройства (смартфона или планшета).

Соображения для Альянса

Дезинформация – одна из нескольких цифровых угроз, с которыми сталкивается Североатлантический союз. Недавние информационные кампании и кибератаки показали, что даже технологически развитые государства-члены должны делать больше, чтобы подготовиться к текущим и будущим цифровым вызовам. Необходим больший прогресс в создании успешных механизмов устойчивости и нормативно-правовой базы.