Убийственные большие данные. Как математика превратилась в оружие массового поражения

Моей задачей была разработка алгоритма, который мог бы отличить созерцателя витрин от покупателя. Ориентироваться при этом можно было на несколько очевидных сигналов. Зарегистрировался ли человек на сайте? Совершал ли он уже покупки? Я также обращала внимание и на другие факторы, например на время дня и дату. Определенные недели были особенно урожайными. Например, один из пиков приходился на День поминовения в середине весны, когда огромное количество людей практически одновременно определялись со своими планами на лето. Мой алгоритм придавал больше ценности покупателям в течение подобных периодов: в это время повышалась вероятность, что они действительно что-то купят.

Принципы работы статистики, как выяснилось, было очень легко перенести из хедж-фондов в онлайн-коммерцию: самой большой разницей было то, что вместо движений в рынке я теперь предсказывала клики конкретных людей.

На самом деле я увидела огромное количество параллелей между финансами и Большими данными. Обе индустрии черпают работников из одного и того же кадрового резерва: в основном из элитных университетов, таких как Массачусетский технологический институт (MIT), Принстон или Стэнфорд. Эти новые работники отчаянно стремятся к успеху и всю жизнь сосредоточены на внешних количественных показателях, таких как результаты SAT[5] (академических оценочных тестов) и поступление в колледжи. В области как финансов, так и технологий они получают один и тот же месседж: они разбогатеют и будут править миром. Их продуктивность демонстрирует, что они на правильном пути, и это конвертируется в долларовый эквивалент. Успех приводит к ложному выводу: все, что они делают, чтобы заработать больше денег, – это хорошо. Они таким образом «создают добавленную ценность». Иначе за что бы их вознаграждал рынок?

В обеих культурах богатство больше не представляет собой средство выживания. Оно напрямую привязывается к ценности отдельно взятой личности. Молодой обитатель пригорода, обладающий массой преимуществ (образование в частной школе, усиленная подготовка к вступительным экзаменам в колледж, семестр за границей – в Париже или Шанхае), все равно тешит себя иллюзией, что в мир привилегий он попал благодаря собственным талантам, усиленной работе и выдающимся способностям в области решения проблем. Деньги уничтожают любые сомнения. А другие члены его круга подыгрывают ему, создавая сообщество взаимного восхищения. Они с радостью доказывают нам, что представляют собой продукты работы дарвиновского естественного отбора, тогда как со стороны это выглядит как комбинация слепой удачи и выигрыша у системы.

В обеих индустриях реальный мир со всеми его проблемами воспринимается с большой дистанции. Работающие в них люди стремятся подменить людей наборами данных, превратить их в более эффективных покупателей, избирателей или работников, чтобы оптимизировать какую-нибудь цель. Это совсем легко сделать и оправдать, когда успех приходит в виде безличного результата и когда задействованные люди остаются такими же абстракциями, как цифры на экране.

Параллельно с работой в области обработки данных я уже вела свой блог – и все больше была вовлечена в движение «Захвати Уолл-стрит». Все больше и больше меня беспокоило отчуждение технических моделей от реальных людей – и моральные последствия этого отчуждения. На самом деле я видела появление того же механизма, который я наблюдала в мире финансов: ложное чувство безопасности, которое вело к распространению далеких от совершенства моделей, определения успеха, которые служили оправданиями самим себе, и растущие петли обратной связи. Людей, которые пытались противодействовать этим процессам, обзывали ностальгирующими луддитами.

Я гадала, какой аналог кредитного кризиса мог бы случиться в области Больших данных: пока что вместо бума я наблюдала эволюционирующую антиутопию со все увеличивающимся неравенством. Алгоритмы позаботятся о том, чтобы те, кого они объявили неудачниками, неудачниками и остались. Счастливое меньшинство станет еще больше контролировать экономику данных, купаясь в возмутительной роскоши и убеждая себя в том, что оно ее заслуживает.

Проработав два года в области Больших данных и многому научившись, я поняла, что мой путь к окончательной утрате иллюзий более или менее завершился: злоупотребление математикой приобретает все более впечатляющие масштабы. Несмотря на ежедневное ведение блога, я почти перестала успевать отслеживать все способы манипуляции, контроля и запугивания людей алгоритмами. Это началось с учителей, пострадавших от ярма модели подсчета качества их работы, но ими не закончилось. Чувствуя все растущую тревогу, я ушла с работы, чтобы сосредоточить все усилия на исследовании этой проблемы.

Гонка вооружений: поступление в колледж