Убийственные большие данные. Как математика превратилась в оружие массового поражения

Конечно, нанимателей этот аргумент мало волнует. Они считают, что хорошее кредитное поведение говорит об ответственности – а это именно то качество, которое они хотят видеть в своем работнике. Но взгляд на кредит как на проблему морали – ошибка. Каждый день много трудолюбивых и вполне надежных людей теряет работу из-за того, что компании закрываются, сокращают расходы или переезжают в другой регион. Число таких людей возрастает в периоды рецессий. И многие из тех, кто оказался без работы, оказываются и без медицинской страховки. Стоит им в этот период заболеть или попасть в аварию – и они пропускают платеж по кредиту. Даже с принятием Закона о доступном медицинском обслуживании, который уменьшил количество незастрахованных людей, медицинские расходы все равно остаются одной из основных причин банкротств в Америке.

Конечно, люди, у которых есть сбережения, могут продолжать выплачивать кредиты и в сложные времена. Те же, кто живут от зарплаты до зарплаты, гораздо более уязвимы. В результате отличная кредитная история становится не просто прокси для ответственности и грамотных решений, это еще и прокси для богатства. А богатство очень сильно коррелирует с расовой принадлежностью.

Подумайте вот о чем. На 2015 год в руках белых семей было сосредоточено в десять раз больше денег и имущества, чем в руках черных и латиноамериканских семей. И если среди белых только 15 % имели нулевой или отрицательный капитал, то более трети черных и латиноамериканцев не имели никакой финансовой подушки безопасности. Причем с возрастом этот разрыв только усугубляется. К возрасту около шестидесяти лет белые американцы в среднем в одиннадцать раз богаче афроамериканцев. Если рассматривать эти цифры, сложно не согласиться с тем, что ловушка бедности, которую создают проверки кредитной истории работодателями, влияет на общество по-разному и затрагивает расовый вопрос. В это самое время, когда я пишу эти строки, десять штатов приняли закон о запрете использования кредитного скоринга в приеме на работу. Аргументируя этот запрет, правительство штата Нью-Йорк заявило, что использование кредитных проверок «непропорционально затрагивает бедных и небелых соискателей». Однако эти проверки продолжают считаться законными и практиковаться в сорока остальных штатах.

Это не значит, что отделы кадров по всей Америке сознательно строят ловушки бедности, не говоря уже о расистских ловушках. Они, без сомнения, верят в то, что кредитные истории дают релевантную информацию, которая помогает работодателю принять важные решения. В конце концов, «чем больше данных, тем лучше» – основной принцип Века информации. Однако во имя справедливости определенную часть этой информации следует оставить без обработки.

* * *

Представьте на мгновение, что вы недавно окончили юридическую школу при Стэнфордском университете и проходите собеседование в престижной юридической фирме в Сан-Франциско. Старший партнер изучает файл на экране компьютера и вдруг начинает смеяться: «Тут говорится, что вас арестовывали в штате Род-Айленд! За организацию лаборатории по производству метамфетамина!» Он качает головой. У вас распространенное имя, и компьютеры часто делают глупые ошибки. Собеседование продолжается.

В высшем эшелоне экономики люди по большей части самостоятельно принимают важные решения, хотя и опираются на компьютер как на полезный инструмент. Однако в среднем звене и особенно в нижних эшелонах менеджмента большая часть работы, как мы видели, автоматизирована. Когда в досье имеется ошибка – а это случается часто, – даже лучшие из алгоритмов принимают неверные решения. Это давно уже сформулировали специалисты по поиску в интернете: мусор на входе – мусор на выходе.

Человек, находящийся по ту сторону этого автоматизированного процесса, может страдать от последствий в течение многих лет. Созданные компьютером списки нежелательных пассажиров, которых авиакомпании отказываются пускать на борт самолета, например, знамениты своими ошибками. Ни в чем не виноватый человек, чье имя просто похоже на имя подозреваемого в терроризме, каждый раз проходит через ад, пытаясь попасть в самолет. При этом богатые путешественники зачастую в состоянии оплатить статус «заслуживающего доверия путешественника», который позволяет им обходить службу безопасности в аэропортах. По сути, они тратят деньги, чтобы защитить себя от ОМП.

Подобные ошибки возникают повсеместно. Федеральная торговая комиссия сообщила в 2013 году, что пять процентов потребителей – то есть 10 миллионов человек – обнаруживали ошибки в своих кредитных историях, причем ошибки достаточно серьезные, которые вполне могли повлечь более высокие проценты по кредиту. Это неприятно, но, по крайней мере, кредитные истории существуют в регулируемой области экономики данных. Потребители вполне могут (и им следует это делать) хотя бы раз в год потребовать, чтобы им дали просмотреть их кредитные истории и исправить ошибки, которые могут однажды дорого обойтись[17].