Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти

Всего за несколько месяцев до этого министерство юстиции оштрафовало Google на 500 миллионов долларов, что стало «одним из самых крупных денежных наказаний в истории», за прием рекламы от канадских онлайн-аптек, которая, несмотря на неоднократные предупреждения, поощряла пользователей Google в США незаконно импортировать лекарства, оборот которых строго контролируется. Как сообщил прессе заместитель генерального прокурора США:

Министерство юстиции будет продолжать привлекать к ответственности компании, которые в погоне за прибылью нарушают федеральное законодательство и ставят под угрозу здоровье и безопасность американских потребителей[1275].

Обилие недостоверной информации характерно и для среды Facebook. Обвинения, связанные с кампаниями политической дезинформации в США и Великобритании 2016 года в Facebook – широко известная проблема, обезобразившая выборы и социальный дискурс в Индонезии, на Филиппинах, в Колумбии, Германии, Испании, Италии, Чаде, Уганде, Финляндии, Швеции, Голландии, Эстонии и Украине. Ученые и политические аналитики годами пытались привлечь внимание к вредоносности онлайн-дезинформации[1276]. Один политический аналитик на Филиппинах в 2017 году беспокоился, что, возможно, уже слишком поздно решать эту проблему: «Первые признаки мы видели еще несколько лет назад… Голоса, прежде державшиеся в тени, теперь оказались в центре публичного дискурса»[1277].

Руководящие принципы радикального безразличия можно наблюдать в действиях скрытой низкооплачиваемой рабочей силы Facebook, на которую возложена задача ограничивать деградацию первого текста. Нигде непомерное влияние надзорного капитализма на общественное разделение знания не находит более конкретного проявления, чем в выполнении этой грязной функции «модерации контента», и нигде взаимосвязь экономических императивов и разделения знания не обнажается так ярко, как в повседневной банальности этого рационализированного рабочего процесса, в котором ужас и ненависть всего мира приговаривается к жизни или смерти с такой скоростью и в таком объеме, которые оставляют лишь мгновение на то, чтобы принять решение, заблокировать или пропустить. Только благодаря решительным действиям нескольких журналистов-расследователей и ученых мы можем бросить редкий взгляд на эти в высшей степени секретные процедуры, распределенные сегодня между целым рядом call-центров, мелких фирмочек и сайтов «микрозанятости» по всему миру. Как отмечается в одном репортаже, «Facebook и Pinterest, наряду с Twitter, Reddit и Google, отказались предоставлять копии своих нынешних или прошлых руководящих принципов внутренней модерации»[1278].

В тех немногих статьях, в которых удалось дать оценку работе Facebook, этот мотив возникает неизменно. Эта секретная рабочая сила – одни оценивают ее в по меньшей мере 100 000 «модераторов контента», по подсчетам других, цифра должна быть намного выше, – действует на определенном удалении от основных функций корпорации, сочетая человеческое суждение и инструменты машинного обучения[1279]. Называемые иногда «санитарами», они просматривают длинную очередь контента, отмеченного пользователями в качестве проблемного. Хотя некоторые общие правила, например касающиеся порнографии и показа жестокого обращения с детьми, применяются единообразно, существуют детальные правила, направленные на то, чтобы отклонять как можно меньше контента в контексте локальной оценки минимального порога терпимости пользователей. Основная задача всей затеи – найти точку равновесия между способностью привлечь пользователей и их излишки на сайт и риском оттолкнуть их. Это расчеты радикального безразличия, которые не имеют ничего общего с оценкой правдивости контента или подержания взаимности с пользователями[1280]. Это помогает объяснить, почему устранение дезинформации – не приоритет. В репортаже об одном расследовании цитируются слова одного из сотрудников Facebook: «У них есть абсолютно все инструменты, чтобы прикрыть „fake news“…»[1281].