Безумие толпы. Как мир сошел с ума от толерантности и попыток угодить всем

Машинное обучение справедливости

В последние годы Кремниевая Долина не просто приняла идеологические взгляды сторонников интерсекциональности и борцов за социальную справедливость. Она укоренила их в себе на таком глубоком уровне, что каждое общество, перенимающее их, открывает для себя совершенно новый вид безумия.

Для того, чтобы скорректировать свои предубеждения и предвзятые мнения, недостаточно просто пройти процедуры, описанные в главе «Женщины». «Уроки о бессознательных предубеждениях» могут заставить нас перестать доверять своим инстинктам, могут даже показать, как перестроить наше уже существующее поведение, позицию и мировоззрение. Они могут заставить нас обратить внимание на наши привилегии, сравнить с привилегиями и обездоленностью других, и назвать место, которое мы занимаем в любой из существующих иерархий. Уделяя внимание пересечениям систем угнетения, люди узнают больше о том, когда им следует промолчать и когда они могут говорить. Но все это – корректирующие меры. Они не могут заставить нас начать с нуля более справедливыми людьми. Они могут лишь исправить нас, когда мы идем по «неверному» пути.

Именно поэтому технологические компании возлагают столь большие надежды на «Машинное обучение справедливости» (МОС). МОС не просто отнимает у порочных, полных предубеждения и нетерпимых людей процесс вынесения суждений. Оно также передает право суждения компьютерам, которые точно не смогут перенять наши предвзятые мнения. Это происходит за счет встраивания в компьютеры таких наборов мнений и суждений, которых, наверное, никогда не придерживался ни один человек. Это – разновидность справедливости, на которую не способен никто из людей. Только после того, как пользователи стали замечать, что с результатами поиска в поисковых системах происходит что-то странное, технологические компании посчитали нужным объяснить, что такое МОС. Понятное дело, они постарались рассказать о нем как можно более спокойно, словно ничего особенного не происходило. Однако это было не так. Совсем не так.

Google с перерывами выложил, затем удалил, а затем вновь выложил доработанное видео, в котором рассказывалось о МОС самым понятным образом из возможных. В видео, которое представляет собой лучшую из этих попыток на сегодняшний день, дружелюбный женский голос говорит: «Давайте сыграем в игру», а затем предлагает зрителям закрыть глаза и представить себе обувь. На экране появляются кроссовок, стильный мужской ботинок и туфля на высоком каблуке. «Хоть мы и не знаем, почему, – говорит закадровый голос, – мы все склонны представлять себе один предмет обуви, а не иной». Если вы попытаетесь научить компьютер тому, что такое обувь, возникнет проблема. И заключается она в том, что вы расскажете компьютеру о том, что является обувью по вашим меркам. Поэтому, если для вас лучшей обувью являются туфли на каблуке, вы научите компьютер ассоциировать с обувью именно их. На экране появляется сложная сеть из линий, дающая понять зрителю, как сложно все это устроено.

Машинное обучение помогает нам «перемещаться» онлайн. Оно позволяет Интернету рекомендовать нам что-то, советовать нам маршруты и даже переводить тексты. Для того, чтобы это стало возможным, люди раньше вручную вводили код, позволяющий пользователям решать их проблемы. Но машинное обучение позволяет решать проблемы при помощи «нахождения закономерностей в данных»:

«Легко подумать, будто человеческая предвзятость тут ни при чем. Однако тот факт, что нечто основано на данных, не делает его автоматически нейтральным. Даже имея лучшие намерения, невозможно сепарироваться от наших собственных человеческих предубеждений. Поэтому наши человеческие предубеждения становятся частью технологии, которую мы создаем».

Вновь рассмотрим обувь. В рамках недавнего эксперимента людей попросили нарисовать обувь, чтобы потом обучить с помощью рисунков компьютер. Поскольку многие нарисовали нечто похожее на кроссовок, компьютер, обучающийся в процессе, не распознал туфли на высоком каблуке как обувь. Эта проблема известна как «предвзятость взаимодействия».

Но «предвзятость взаимодействия» – не единственный вид предвзятости, беспокоящей Google. Существует также «латентная предвзятость». Покажем на примере: представьте, что вам нужно научить компьютер тому, как выглядит ученый-физик, и для того, чтобы это сделать, вы показываете компьютеру изображения физиков прошлого. На экране показаны восемь белых ученых-физиков, начиная с Исаака Ньютона. В конце показана Мария Кюри. Это доказывает, что в данном случае компьютер будет иметь скрытое предубеждение, когда будет искать физиков – в этом случае он будет «склоняться к физикам-мужчинам».