Во власти цифр. Как числа управляют нашей жизнью и вводят в заблуждение

Одна из них – Ant Financial, китайская компания, обеспечивающая работу платежного приложения Alipay для всемогущего интернет-магазина Alibaba. Приложение насчитывает в Китае более миллиарда пользователей, согласно данным самого сайта[288], и предлагает практически все возможные услуги: оплату покупок в магазинах, покупку железнодорожных билетов, заказ еды, вызов такси, денежные кредиты, оплату счетов и штрафов, а также знакомства. Представьте себе банковское приложение, объединенное с приложениями Amazon, Facebook, Uber и проездной картой общественного транспорта. А после заявления Центрального банка в нем появилась новая услуга – «Сезам-кредит», система баллов, дающая самые разнообразные преимущества.

Участникам системы «Сезам-кредит» присваивается рейтинг от 350 до 950 баллов[289]. Если у вас высокий рейтинг, вам предоставляется лучший обменный курс, вам не приходится выплачивать задаток при аренде машины, а на вокзале вы даже можете отдохнуть в особом зале ожидания. Кроме того, чем выше ваш рейтинг, тем лучше репутация: им можно хвастаться в социальных сетях, он делает вас заметным на сайтах знакомств. Как и обещает название системы, «Сезам» открывает двери.

Как набирать баллы? Вовремя платите по счетам, не пропускайте сроков платежа за квартиру, возвращайте кредиты. Те, кто вносит в систему личную информацию – адрес, профессию, квалификацию, – получают более высокий рейтинг. А как насчет покупок, которые вы совершаете через приложение? Если вы слишком часто играете в игры, это вредит вашему рейтингу, объяснил в интервью китайскому журналу Caixin директор Ant Financial по технологиям. А вот приобретение детских подгузников добавляет баллов[290]. Впоследствии компания открестилась от этого заявления, но оно дает пищу для размышлений. Учитывая, какие данные можно собирать при помощи приложения Alipay, возможности рейтинговой системы оказываются практически безграничными.

Помимо всего этого, система «Сезам-кредит» использует и данные из других источников. Горе вам, если вы списали на экзамене. В 2015 году генеральный директор «Сезам-кредит» заявила, что хотела бы получить список учащихся, списывавших на общенациональных вступительных экзаменах, чтобы наказать их за их «бесчестное поведение». Кроме того, компания использует государственные черные списки, в которые входят миллионы человек, не заплатившие судебные штрафы, и снижает рейтинг таких неплательщиков.

Большие данные пугают. Их масштабы беспрецедентны, а алгоритмы бывают настолько сложными, что в них не могут разобраться даже их разработчики. Но в конечном счете главный вопрос использования больших данных остается тем же, что и с данными небольшими: чего вы хотите добиться при помощи чисел? Хотя Китай совершенно недвусмысленно определяет цель системы социального кредита – «построение гармоничного социалистического общества», – следует иметь в виду, что любой алгоритм «пронизан» этическими решениями.

Любой алгоритм стремится что-нибудь оптимизировать. Например, алгоритм YouTube хочет, чтобы вы смотрели видеозаписи как можно дольше, потому что это приносит доходы от рекламы[291]. Правдив ли тот или иной видеоролик, не так важно. Гийом Шасло, бывший инженер компании Google и основатель веб-сайта AlgoTransparency, начал исследовать алгоритмы YouTube. Он обнаружил, что эта платформа рекомендует к просмотру ролики, в которых рассказывают, что Земля плоская, или сообщают, что Мишель Обама – на самом деле мужчина. «На YouTube вымысел работает лучше, чем реальность», – сказал Шасло в интервью газете Guardian.

Когда полицейские используют алгоритм прогностической полицейской деятельности, они тоже стремятся оптимизировать нечто – а именно нашу безопасность. Но эта цель вступает в конфликт с другой – справедливостью. Можно ли оправдать аресты невиновных? Смотря какого результата вы хотите добиться.

То же касается и кредитных рейтингов. В этой главе мы уже упоминали заключение Федеральной торговой комиссии, согласно которому каждый двадцатый кредитный отчет содержал серьезные ошибки. Одно из профессиональных сообществ кредитных бюро, Ассоциация отрасли потребительских данных (Consumer Data Industry Association, CDIA), объявило это известие позитивным. В конце концов, оно означало, что 95 процентов потребителей такие ошибки не коснулись[292].

Но много это или мало – 5 процентов? Зависит от того, что вы собираетесь делать с рейтингами. Как правило, кредиты выдают коммерческие предприятия. Их цель – получение доходов. С их точки зрения 95 процентов – вполне приличный результат. Справедливо ли это – подобное их заботит гораздо меньше. Для них заемщик – не клиент, а продукция.

Нам нужно оставаться настороже. Идея внедрения системы социального кредита может казаться безжалостным орудием автократического режима, но и в Великобритании, и в других странах широко применяются рейтинги, в которых нас оценивают. Как говорят обозреватели технологий Мориц Мартейн и Димитрий Токметцис, мы живем в «обществе рейтинговых таблиц»[293].