Кибербезопасность в условиях электронного банкинга. Практическое пособие

А здесь их поджидает, даже если пока оставить за скобками возможности целенаправленных манипуляций, «ловушка релевантности»: в top поисковиков поднимаются сведения не наиболее достоверные и адекватные запросу, а наиболее «кликабельные». Показатель CTR[255] стал ключевой метрикой в интернет-маркетинге и в погоне за монетизацией интернет-сервисов фактически подменил собой настоящую релевантность (в ее научном понимании[256]): мнение 100 тыс. малообразованных пользователей с точки зрения машинных алгоритмов куда весомее мнения пары настоящих специалистов, оценить квалификацию которых ни поисковик, ни пользователи не в состоянии. Мало того, информация из дефицитной быстро превратилась в избыточную, что мешает устанавливать причинно-следственные связи тех или иных явлений.

Ситуацию усугубляют информационная перегрузка и быстрый темп изменений, ведущие к утрате желания «вникать в детали». Происходят тотальные симплификация[257], коммодитизация[258] и игровизация[259] продуктов и услуг, которые теперь должны быть «интуитивно понятными»; пространные инструкции превращаются из средства информирования потребителей в гарантию от юридических исков. Выбор обусловливается не только и не столько потребительскими свойствами, сколько «вознаграждением» (приобщение к «избранным» с покупкой последней модели iPhone, получение дополнительных выгод и (или) подарков в рамках программ лояльности и т. п.).

Для финансовых рынков это означает перемещение всех операций в устройство связи, через которое решаются и проблемы идентификации. Как следствие, традиционным банкам, вероятно, придется сфокусироваться на хранении денег клиентов и осуществлении расчетов, а интерфейсы отдать FinTech-компаниям (вышеупомянутая PSD2 уже лишила банки монополии на управление деньгами клиентов: предоставлять API для третьих сторон становится для них не правом, а обязанностью). Это приведет к постепенному отказу от неоцифрованных услуг (что пока сдерживается юридическими коллизиями) и увеличению объема операций, происходящих вне контроля пользователя, таких как автоплатежи за продукты и услуги, сбор информации в «фоновом режиме» для целей управления персональными финансами (PFM). В результате банк либо сам становится ИТ-компанией, либо превращается в back office для FinTech-компаний.

Параллельно будут расти число ошибочных действий (в т. ч. совершенных «по инерции») и возможности для манипулирования (пример: автовозобновление подписки и других услуг, если пользователь специально не заявил об отказе от них). Так, знаменитый «мгновенный обвал» (Flash Crash) американского фондового рынка 6 мая 2010 г. (снижение стоимости ценных бумаг на $1 трлн в рамках одной торговой сессии) с высокой степенью вероятности стал результатом «гонки вооружений» производителей систем для высокочастотного трейдинга[260].

Вообще формирование вокруг человека своего рода цифрового «кокона» дает простор для манипуляций в просто невообразимых масштабах. То, как мы распознаем мир, – результат веры как в данные, предоставляемые разнообразными устройствами, так и в системы их дистрибуции. Социальные сети и VDA уже сейчас активно фильтруют медиа и контент согласно своим внутренним алгоритмам. В недалеком будущем то, на что обращают внимание миллиарды людей (а при использовании VR/AR очков – и то, что они вообще видят), будет контролировать небольшая группа владельцев социальных сетей и производителей ботов и VDA.

«Все вокруг нас напоминает о нашем отречении от нашей собственной власти в пользу технологий… В конце концов мы можем прийти к ощущению того, что мы вообще уже ничего не решаем и не можем ни на что повлиять, – те или иные вещи просто происходят с нами.

Жизнь станет намного проще, не так ли? Идти следом гораздо легче, чем прокладывать дорогу самому… Сможем ли мы свободно принимать решения, не основанные на логике и алгоритмах? Сможем ли мы по-прежнему совершать глупые поступки: превышать скорость, напиваться, есть вредную еду? Или свобода воли перестанет существовать?

В одном можно быть уверенным: технологии и их крупнейшие провайдеры сделают все возможное, чтобы склонить нас к повиновению и отречению, случайно или преднамеренно»[261].

Предиктивная аналитика[262], первоначально призванная помочь с сортировкой и пониманием потока информации для обеспечения принятия обоснованных решений, теперь фактически превращается в способ склонить человека к выполнению действий, ведущих к выгоде финансового института.

Отклонения от рекомендованного финансового поведения будут пресекаться с помощью кредитных (социальных) рейтингов (см. выше). Таким образом, Homo Connected создает основу для реализации бизнес-модели Behavioral Finance[263], которая начиналась с идеи необходимости учета особенностей психологии брокеров и инвесторов, но теперь «пошла в народ» и легла в основу многих типов розничных сделок: от POS-кредитов до «финансовых пирамид».