Убийственные большие данные. Как математика превратилась в оружие массового поражения

Если представить себе кадровую политику IBM и подобных гигантских корпораций в виде набора алгоритмов, то дискриминация неизменно входила в состав их кода в течение десятилетий. Конкуренция за работников подтолкнула их к более справедливым решениям. С тех пор геи и лесбиянки добились впечатляющего прогресса во многих областях. Конечно, прогресс этот и сегодня нельзя назвать абсолютно последовательным. Многие представители ЛГБТ в Америке до сих пор страдают от предубеждений, насилия и оружия математического поражения. Особенно это касается бедняков и представителей этнических меньшинств. Однако в то самое время, когда я пишу эти строки, гей по имени Тим Кук является президентом самой дорогой компании мира – корпорации Apple. И если у него возникнет такое желание, он может воспользоваться своим конституционным правом и заключить брак с другим мужчиной. Иными словами, мы видим, что корпорации вполне способны совершать решительные движения в сторону исправления несправедливости в своих алгоритмах приема на работу, – так почему же подобным образом не подправить математические модели, которые причиняют вред всему нашему обществу?

К сожалению, тут имеется серьезное отличие. Предоставление равных прав представителям ЛГБТ-сообщества во многом шло на пользу компаниям. Имелось немалое количество хорошо образованных и все громче заявляющих о себе талантливых геев и лесбиянок, которых корпорации жаждали принять на работу. Поэтому они оптимизировали свои модели, чтобы привлечь этих людей. Но при этом главным фактором все равно оставалось извлечение прибыли. Справедливость в большинстве случаев была просто побочным продуктом. Кстати, примерно в это же время самые разные предприниматели по всей стране обратили свое внимание на ЛГБТ-потребителей и стали предлагать им круизы, «счастливые часы», сериалы с гей-тематикой и тому подобное. И хотя эта толерантность вызвала недовольство у менее терпимых людей, с точки зрения бизнеса это сулило большие дивиденды.

Обезвреживание ОМП не всегда предполагает столь очевидную отдачу. Конечно, чем больше справедливости, тем больше пользы для общества в целом, однако это вовсе не обязательно полезно для той или иной конкретной компании. Совсем наоборот, для большинства из них оружие математического поражения – это очень эффективный инструмент. На нем основаны целые бизнес-модели – будь то коммерческие колледжи или микрокредиты. И когда программное обеспечение успешно находит людей, достаточно отчаявшихся, чтобы взять в долг под 18 % в месяц, то люди, которые купаются в прибыли от этого бизнеса, считают, что система работает отлично.

Жертвы, конечно, имеют совсем другое мнение. Но абсолютное большинство из них – это люди с почасовой оплатой или вообще безработные, обреченные на пожизненно низкий кредитный скоринг. Это бедняки. Это заключенные, которые и вовсе беззащитны. В результате в нашем обществе, где деньги покупают влияние, у жертв ОМП практически нет голоса, который может быть услышан. Они практически лишены гражданских прав. Слишком часто бедных обвиняют в том, что они бедные, что они сами виноваты, что учились в плохих школах, в том, что преступления захлестывают районы, в которых они живут. Именно поэтому мало кто из политиков вообще думает о стратегиях борьбы с бедностью. Согласно общепринятому мнению, бедность – это скорее заболевание, и нужно прилагать усилия – во всяком случае, на словах – к тому, чтобы не допустить распространения этого заболевания на средний класс.

Но бедняки далеко не единственные жертвы ОМП. Мы уже видели, как порочные модели могут отказать в работе квалифицированному претенденту или снизить зарплату сотруднику, который не отвечает корпоративным представлениям об идеальном здоровье. Эти ОМП бьют по среднему классу с такой же силой, как и по беднякам. Даже богачи оказываются жертвами микротаргетинга в рамках политических моделей. И они так же судорожно, как и все мы, пытаются умилостивить безжалостное оружие математического поражения, которое командует набором в колледжи и наносит ущерб качеству высшего образования.

Также важно отметить, что это только начало. В конце концов, компании микрокредитования тоже начинали с бедняков и иммигрантов. У них меньше доступа к информации, и многие из них находятся в отчаянном положении. Это самые простые цели – так сказать, фрукты, висящие на нижних ветках. Но те виды оружия математического поражения, которые дают наибольшую прибыль, вряд ли надолго остановятся на низших слоях. Рынок так не работает. Они будут развиваться, распространяться и постоянно искать новые возможности. Мы уже видели, как это происходит с банками основного звена, которые вкладывают средства в организации, занимающиеся кредитованием между физическими лицами – такие как Lending Club. Короче говоря, ОМП нацелено на всех нас. И оно продолжит размножаться, сея несправедливость, пока мы не предпримем шаги, чтобы его остановить.