В КОНЦЕ 1980-Х ПРОФЕССОРА ЮРИСПРУДЕНЦИИ Йен Айрес и Питер Зигельман решили выяснить, отличаются ли условия сделок при покупке новых автомобилей афроамериканцами и женщинами по сравнению с белыми мужчинами. Они обучили группу из 38 человек, среди которых были представители разных рас и полов, вести переговоры о покупке по фиксированному сценарию и обнаружили печальные различия. У 153 продавцов афроамериканцам и женщинам пришлось заплатить за те же самые автомобили больше, чем белым мужчинам, причем самую большую цену требовали с черных женщин – в среднем на $900 больше, чем с белых мужчин. Хотя это открытие вряд ли многих удивило, особенно чернокожих и женщин, оно послужило убедительной демонстрацией того, насколько дискриминационными могут быть рынки.
Прокрутим десяток лет вперед, к дням начала интернет-торговли. Предприниматели экспериментируют с сетевыми продажами всего на свете, в том числе автомобилей. Экономисты Фиона Скотт Мортон, Флориан Зеттельмейер и Хорхе Сильва-Риссо проанализировали новый тип продаж в этой отрасли и обнаружили, что он исключил расовую и гендерную дискриминацию, которая, что они также подтвердили, продолжала присутствовать в офлайн-продажах автомобилей.
Торговые онлайн-площадки (маркетплейсы) первого поколения, в том числе eBay, Amazon и Priceline, были устроены так, что продавцам было сложно кого-то дискриминировать. Транзакции были относительно анонимны. Пользователь мог обсуждать покупку без предоставления какой-либо личной информации, пока продавец не соглашался на сделку. Как было замечено в знаменитой карикатуре из
Однако платформам – а теперь и их пользователям – известно, черный вы или белый, мужчина или женщина, человек или собака. И недавно обнаружилось, что интернету так и не удалось положить конец дискриминации. При раскрытии личных данных уязвимые группы сталкиваются с теми же проблемами, которые давно преследуют их в «реальном» мире, и иногда ситуация оказывается еще тяжелее из-за недостаточного правового регулирования, фотографий, по которым сразу видно пол и расу, и того факта, что потенциальные дискриминаторы могут действовать, даже не общаясь напрямую со своими жертвами.
Что же произошло и что можно с этим сделать?
Возникновение цифровой дискриминации
В первые дни электронной коммерции для онлайн-шопинга часто требовался «прыжок веры». Продавец с eBay из Флориды мог выставить на продажу, скажем, бейсбольную карточку Topps с Ноланом Райаном в California Angels сезона 1974 года с описанием ее состояния. Коллекционер из Массачусетса должен был отдать деньги за карточку, которую он лично не видел, на основании одного лишь этого описания. Карточка в идеальном состоянии могла стоить $60, в то время как потрепанная – лишь малую часть этой суммы. Что мешало продавцу отправить покупателю потрепанную карточку вместо первозданной? На самом деле мало что. Экономисты Джинджер Джин и Эндрю Като обнаружили, что в начале 2000-х продавцы на eBay часто неверно указывали состояние подобных лотов.
Проблема
У таких онлайн-площадок, как eBay, Uber или Airbnb, есть возможность бороться с расовой, гендерной и прочими формами дискриминации, которые влияют на транзакции в офлайн-продажах. Однако недавние исследования показывают, что происходит прямо противоположное.
Причина
На ранних платформах покупатели и продавцы сохраняли относительную анонимность. Но добавление к профилям фотографий, имен и других персональных данных непреднамеренно стимулирует дискриминацию.
Решение
Чтобы создать эффективные и инклюзивные рынки, разработчики платформ должны помнить о возможности дискриминации и быть открытыми для экспериментов при выборе средств автоматизации, алгоритмов и сценариев использования личных данных.