Искусственный интеллект

Тем временем во внешнем мире за каждым результатом стоят определенные последствия. И неразумно было бы в действительности полагать, что в морских крушениях выживают те, кто платит больше. Хотя какой-нибудь управленец вполне мог бы посчитать такой вывод статистически оправданным. При прогнозировании страховых тарифов можно сказать, что люди, способные оплачивать более дорогие билеты, вероятнее всего, выживут в крушениях, связанных со столкновениями с айсбергами, и, таким образом, относятся к категории малого риска ранней выплаты. Эти люди богаче тех, кто не может себе позволить дорогой билет. Значит, у более обеспеченных граждан может быть дешевый страховой тариф. А это плохо! Ведь страховки нужны как раз для того, чтобы поровну распределить риск между широким спектром людей. Так зарабатывают деньги наши страховые компании, но это никак не способствует чему-то по-настоящему хорошему.

Похожие компьютерные технологии используются для оптимизации цены или узкого сегментирования покупателей, в результате которого разным людям предлагается разная цена. Оптимизация цены используется в самых разных отраслях – от страховой до туристической, а результаты нередко приводят к ценовой дискриминации. Согласно анализу, проведенному в 2017 г. ProPublica и Consumer Reports в Калифорнии, Иллинойсе, Техасе и Миссури, страховые тарифы на жилье, предложенные ключевыми компаниями жителям районов компактного проживания меньшинств, были на 30 % выше тарифов в других районах со сходными оценками аварийности[92]. В 2014 г. аналитики The Wall Street Journal выяснили, что стоимость одного и того же степлера на staples.com различается для разных покупателей – в зависимости от предполагаемого почтового индекса пользователя она была выше или ниже[93]. Кристо Уилсон, Дэвид Лизер вместе с коллегами из Северо-Восточного университета выяснили, что разные цены предлагали покупателям homedepot.com и на туристических сайтах, в зависимости от того, просматривали ли они сайт с мобильных устройств или с компьютеров[94]. Компания Amazon признала, что в 2000-х гг. экспериментировала с ценами подобным образом. Джеф Безос, основатель компании, принес свои извинения, назвав это «ошибкой»[95].

В мире, где господствует неравенство и где мы создаем ценовые алгоритмы, анализирующие то, как выглядит мир, женщины, бедные и представители меньшинств будут неизбежно платить больше. Математиков это постоянно удивляет; а вот женщины, малообеспеченные и представители меньшинств не удивляются совершенно. Раса, пол, уровень жизни – очевидным и изощренным образом все эти факторы становятся значимыми. Для женщин стоимость парикмахерских услуг, химчистки, бритв и даже дезодоранта будет выше, чем для мужчин. Стоимость курсов подготовки к Академическому оценочному тесту (SAT) для американцев азиатского происхождения в два раза выше[96]. Афроамериканцы получают меньше чаевых, чем их белые коллеги[97]. Быть бедным также означает платить больше за предметы первой необходимости. Мебель, купленная в рассрочку, окажется дороже, чем покупка с немедленной оплатой. У «кредитов до получки» гораздо более высокий процент, чем у банковских займов. Жилищные условия считаются подъемными, если ежемесячный взнос составляет до 30 % заработной платы, однако бедным приходится априори платить больше из-за факторов банальной экономической нестабильности. «В Милуоки большинство бедных арендаторов платит как минимум половину собственного дохода, треть из них отдает и 80 %», – пишет социолог Пат Шарки в рецензии на две этнографические работы: Мэттью Десмонда «Изгнанные: Бедность и выгода американского города» (Evicted: Poverty and Profit in the American City) и Митчелл Дунае «Гетто: Изобретение места и история идеи» (Ghetto: The Invention of a Place, the History of an Idea)[98]. Феномен неравенства несправедлив, при этом он не является редкостью. И, если в рамках машинного обучения все это будет продолжаться, мы не сдвинемся с мертвой точки к более справедливому обществу. «Обаяние технологии объяснимо – в нем сошлись древние надежды на предсказание будущего с современным уклоном в статистическую строгость, – пишет в своей книге «Общество черного ящика» (The Black Box Society) профессор права и эксперт в области этики искусственного интеллекта Фрэнк Паскаль. – Тем не менее в обстановке секретности плохая информация, скорее всего, будет использоваться в качестве хорошей, что приведет к несправедливым и даже катастрофическим прогнозам»[99].