Парадокс одиночества. Глобальное исследование нарастающей разобщенности человечества и ее последствий

Лишенная моей полной, сложной человечности, я должна была произвести впечатление на машину, чьи алгоритмы работы черного ящика я никогда не смогу узнать.

На каких из моих «частных значений» он фокусировался и какое из них имел наибольший вес? Мой голос, моя интонация, язык тела или содержание того, что я говорила? По какой формуле меня оценивали? И было ли это справедливо?

Обычно мы не думаем об одиночестве в контексте того, какие чувства вызывает у нас взаимодействие с машиной. Еще ранее в книге, когда я говорила об изоляции бесконтактного существования, я делала упор на отсутствие прямого человеческого контакта и его воздействия. Но если одиночество также может быть вызвано чувством несправедливого отношения к себе и бесправия со стороны государства и политиков, оно также может быть вызвано таким же отношением к себе со стороны «большого бизнеса» и новых технологий, которые он внедряет.

Потому что, когда работодатель отдает наше профессиональное будущее в руки алгоритма, трудно поверить, что с нами будут обращаться справедливо или что мы сможем обратиться за помощью. Отчасти это связано с тем, что очень спорно, можно ли на самом деле определить будущую производительность по таким характеристикам, как выражение лица и тон голоса. Действительно, в ноябре 2019 года Электронный информационный центр конфиденциальности – известная американская исследовательская организация, представляющая общественные интересы, – подала официальную жалобу на HireVue в Федеральную торговую комиссию США, сославшись на «использование HireVue секретных, недоказанных алгоритмов для оценки “когнитивных способностей”, “психологических черт”, “эмоционального интеллекта” и “социальных способностей” кандидатов на работу».

Есть еще вопрос предвзятости. Хотя HireVue утверждает, что его методология избавляет от человеческих предубеждений, вряд ли это так. Это связано с тем, что его алгоритм будет обучен на видео прошлых или существующих «успешных наймов», а это означает, что любые прошлые предубеждения (сознательные или бессознательные) при найме, вероятно, будут воспроизведены.

На самом деле именно это произошло в Amazon в 2018 году, когда выяснилось, что ИИ-сортировщик резюме компании регулярно отклонял женские резюме, несмотря на то что ему никогда не «сообщали» пол соискателей. Почему? Он эффективно приучил себя к тому, что заявления, содержащие названия колледжей, состоящих только из женщин, или даже слово «женский» (например, «капитан женской шахматной команды») не соответствуют требованиям. Это произошло потому, что он был обучен делать выводы о том, являются ли кандидаты «квалифицированными» или «неквалифицированными» на основе данных о найме за десять лет в отрасли, где мужчины составляют подавляющее большинство кандидатов и сотрудников. Надо ли говорить, что в этой группе было очень мало капитанов женских шахматных команд.

Настройка алгоритма для устранения таких очевидных предубеждений, как пол, относительно проста.

Действительно, инженеры Amazon легко смогли отредактировать модель, чтобы отказаться от использования таких терминов, как «женский», в качестве причины для дисквалификации.

Но проблема с машинным обучением заключается в том, что даже если учитываются наиболее очевидные источники смещения (а они, несомненно, есть в системе вроде HireVue), как насчет менее очевидных, кажущимися нейтральными значений, которые можно даже не считать, которые могут быть рассмотрены как предвзятость?

Оказывается, например, что существуют значительные культурные различия, когда речь идет об улыбке. Американцы, например, улыбаются намного чаще и шире, чем люди из таких стран, как Финляндия, Япония и Германия – стереотип, подкрепленный исследованиями, которые предполагают, что улыбка коррелирует с историческим разнообразием страны. На самом деле американский инстинкт улыбаться и смотреть в глаза настолько заметен, что, когда Walmart открыл свои первые магазины в Германии в 1998 году, ему пришлось отказаться от проверенного временем требования, чтобы сотрудники улыбались покупателям, поскольку немцы интерпретировали широкую улыбку как неуместно заигрывающую. Учитывая такого рода несоответствия, предположение HireVue о том, что улыбка означает дружелюбие, уверенность и, для некоторых должностей, компетентность, рискует оценивать кандидатов по ценностям определенной нации или культуры, тем самым наказывая тех, кто, скажем, считает, что частая улыбка неуместна в обстановке собеседования.

Мы могли бы подвергнуть такой же критике вероятную интерпретацию HireVue изменения высоты голоса и словарного запаса: