Конец привычного мира. Путеводитель журнала «Нож» по новой этике, новым отношениям и новой справедливости

К примеру, такие компании, как онлайн-сервис Predictim, используют ИИ для того, чтобы составить портрет личности кандидата на основе анализа его активности в социальных сетях[267]. Более изощренные компании вроде Cornerstone OnDemand анализируют и такие мелочи цифрового следа кандидата, как веб-браузер, которым он пользуется. Cornerstone выяснила, что люди, установившие браузеры вроде Firefox или Chrome, меняют работу на 15 % реже, чем люди, использующие встроенные браузеры вроде Safari или IE и поленившиеся установить более «продвинутый» софт[268].

«Содержимое вербального ответа, интонация и невербальная коммуникация – вот всего лишь несколько из 20 000 пунктов/очков информации, которые мы собираем, – говорится в промоматериале компании HireVue. – Затем мы анализируем полученную информацию с помощью запатентованного алгоритма машинного обучения и с точностью предсказываем будущее качество его работы».

Компания HireVue была основана в 2004 году как платформа для проведения онлайн-собеседований, а в 2013-м перешла в следующую фазу и стала использовать ИИ для анализа интервьюируемых кандидатов. HireVue анализирует видео интервью кандидатов с помощью софта для распознавания голоса и выражений лица вместе с алгоритмом ранжирования, чтобы определить, какие претенденты больше всего напоминают «идеального кандидата» на должность.

Модель «идеального кандидата» определяется на основе языка тела, интонаций, словоупотребления и других данных, полученных от анализа реальных работников, занимавших должности, на которые претендуют соискатели. Иными словами, новая рабочая лошадка должна максимально походить на старую, объезженную. Очевидно, что, если в технологической сфере в США только 20 % работников – женщины, использование модели «идеального кандидата» ведет к закреплению и воспроизведению половой дискриминации и по тому же принципу – к предвзятости на основе расовых, возрастных и других критериев.

Услугами HireVue пользуются более 600 корпораций, которым этот сервис помогает сэкономить время и ресурсы при первичном отборе кандидатов. К примеру, один из крупнейших мировых производителей потребительских товаров, голландско-британская корпорация Unilever, набирает кандидатов через социальные сети и вместо резюме просит просто прислать свой профиль в LinkedIn[269]. Затем кандидаты должны 20 минут играть в 12 основанных на нейронауке игр, разработанных другим цифровым HR-агентством Pymetrics. Во время игры оцениваются когнитивные способности и личные черты кандидатов, например их склонность рисковать или избегать риска. Если они проходят этот этап, начинается собеседование в HireVue, и кандидат должен ответить на серию записанных заранее вопросов, чтобы затем программа проанализировала его ответы и, если он подходит, передала эту информацию живым HR-менеджерам.

Тотальный контроль – ради безопасности

В деловом мире, как и в мире политики, одним из основных оправданий для слежки и сбора информации о людях служат соображения безопасности. И если на политическом уровне вовсю идут дебаты по поводу этичности и законности слежки за гражданами, то в некоторых сферах, например в финансовом секторе, слежка за сотрудниками не только легальна, но и требуется по закону, чтобы предотвратить инсайдерскую торговлю и другие финансовые преступления.

«Подход Teramind ориентирован на пользователей и фокусируется на их отдельных действиях. Teramind отслеживает и записывает каждое действие пользователя и обеспечивает надежные механизмы автоматической защиты, которые помогут предотвратить любое нежелательное поведение сотрудника», – говорится в рекламе программного обеспечения Teramind от IBM.

Teramind – одна из многочисленных программ, выполняющих функции предсказательных (или маркировочных) инструментов. Такие программы ИИ сначала собирают данные о деятельности работников и анализируют их, находя в их поведении определенные паттерны, а затем следят, чтобы поведение работников соответствовало этим паттернам. В случае отклонения от привычной рутины, алгоритмы бьют тревогу.

К примеру, если вы работаете в фирме, которую обслуживает лондонский стартап StatusToday, знайте: его алгоритмы собирают подробные метаданные о вашей работе – начиная с того, какие файлы вы открываете и как часто вы на них смотрите, заканчивая тем, как часто вы перемещаетесь по офису и пользуетесь ключами.

«На основании всех этих данных мы составляем отпечаток пользователя, и, если нам кажется, что этот отпечаток варьируется, мы поднимаем тревогу», – говорит Мирча Димитреску, главный технолог StatusToday.