Убийственные большие данные. Как математика превратилась в оружие массового поражения

Шестьдесят лет спустя миром управляют автоматические системы, которые наполняют наши досье ошибками. Они срочно нуждаются в понимании контекста, здравого смысла и справедливости, а это понимание могут обеспечить только люди. Однако, если мы оставим эту проблему на усмотрение рынка, который ценит лишь эффективность, рост и поток прибыли (и ради этого согласен на определенный процент ошибок), живым людям будут даны инструкции не вмешиваться и держаться подальше от машин.

* * *

Это будет большой проблемой, потому что, пока мы вскрываем и решаем проблемы с нашими старыми кредитными моделями, на рынок стремительно врываются мощные новые игроки. Например, Facebook запатентовал новый тип кредитного рейтинга, основанный на изучении наших социальных сетей. Цель, если смотреть поверхностно, вполне разумна. Представьте себе выпускника колледжа, который отправляется на пять лет в Африку в составе религиозной миссии – помогать обеспечивать питьевой водой нищие африканские деревни. Затем он возвращается домой – естественно, не имея никакого кредитного рейтинга – и начинает испытывать сложности с получением кредита. Однако на Face-book есть все его одноклассники – и многие из них стали инвестиционными банкирами, кандидатами наук, разработчиками ПО… Анализ социального окружения нашего миссионера показывает, что он вполне может быть надежным заемщиком. Однако тот же алгоритм с большой вероятностью сработает против какого-нибудь трудолюбивого уборщика из восточного Сент-Луиса, в друзьях у которого немало безработных и даже несколько заключенных.

Тем временем респектабельная банковская индустрия продолжает маниакально прочесывать наши личные данные в попытках стимулировать бизнес. Однако лицензированные банки (в отличие от брокеров данных) подлежат федеральному регулированию и определенным правилам конфиденциальности. С точки зрения этих правил собирание досье на клиентов влечет репутационные и юридические риски. Компания American Express убедилась в этом на собственной шкуре в 2009 году, как раз в разгар Великой рецессии. Пытаясь уменьшить риски ради собственной балансовой ведомости, American Express урезала кредитный лимит некоторым клиентам. Однако, в отличие от неформальных игроков на поле электронных рейтингов, гигантский эмитент кредитных карт был обязан разослать этим клиентам письма с объяснением причин.

Это был удар ниже пояса. Компания объяснила, что владельцы карт, тратившие деньги в определенных местах, с большей вероятностью могли задерживать выплаты. Это был вопрос статистики, очень простой: четкая корреляция между покупательскими привычками и уровнем дефолтов по картам. Несчастные клиенты American Express могли только догадываться, какое именно заведение угробило их кредитный лимит. Может быть, еженедельные закупки в Walmart? Или проверка тормозной системы в небольшой авторемонтной мастерской? Что именно поместило их в интервал потенциальных неплательщиков?

В любом случае это решение уменьшило кредитный лимит клиентов в самый разгар жестокого экономического кризиса. И что еще хуже, уменьшение лимита должно было появиться в течение нескольких дней в их кредитных историях. На самом деле это уменьшение наверняка было зафиксировано уже на момент получения клиентами писем. Оно должно было уменьшить их скоринг и повысить проценты по кредиту. Можно сказать уверенно, что многие из этих владельцев карт часто посещали «магазины, ассоциирующиеся с плохими выплатами» именно потому, что отнюдь не купались в деньгах. И, естественно, алгоритм сделал их еще беднее.

Гнев владельцев кредитных карт привлек внимание крупных изданий, включая New York Times, и American Express быстро заявила, что не связывает конкретные магазины со степенью риска (позже компания настаивала на том, что выбрала неверные слова в своих письмах и что они изучали исключительно более широкие покупательские предпочтения, а не конкретные магазины).

Для American Express эта история обернулась сильной головной болью. Если они и в самом деле усмотрели явную корреляцию между покупками в определенных магазинах и кредитным риском, они определенно больше не могли использовать это знание. В сравнении с большей частью интернет-экономики компании, подобные American Express, действуют в определенных рамках, подчиняются правилам и в какой-то степени, можно сказать, связаны по рукам и ногам. (Не то чтобы им было на что жаловаться. В течение многих десятилетий лоббисты на финансовом рынке помогали устанавливать многие из этих правил, поддерживая старых игроков – и против досаждающих новичков.)

Так что удивительного в том, что новые силы в финансовой индустрии силы выбирают более свободные и не такие зарегулированные пути? Инновации, в конце концов, основаны на свободе экспериментов. А с петабайтами данных в руках и практически при полном отсутствии внешнего контроля открываются просто огромные возможности для создания новых бизнес-моделей.