Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти

Так же, как в XX веке разделение труда распространилось из экономической сферы на общество в целом, стройплощадка Наделлы является экономической чашкой Петри, в которой, мутируя, рождается новое разделение знания, готовое к переносу на все общество. В XX веке важнейшие факторы успеха промышленного капитализма – эффективность, производительность, стандартизация, взаимозаменяемость, детальное разделение труда, дисциплина, внимание, планирование, конформизм, иерархическое управление, разделение знания и действия и т. д. – были открыты и доведены до ума на производстве и затем перенесены в общество, где были институционализированы в школах, больницах, семейной жизни и чертах личности. Как подтверждает уже не одно поколение ученых, общество стало напоминать фабрику, чтобы мы могли обучать своих детей, воспитывая в них соответствие новым требованиям массового производства.

Мы заново вступили в этот цикл, но теперь цель состоит в том, чтобы преобразовать общество XXI века в «вещь первостепенной важности», организованную по образу машинного улья, чтобы обеспечить определенность для других. Связи, к которым мы когда-то стремились ради личной поддержки и эффективности, преобразуются в средство распространения нового вида власти и социального слияния, которое ведет к гарантированным результатам.

V. Слияние как общество

Ученые Microsoft годами работают над тем, чтобы создать способы взять ту же логику автоматического упреждающего контроля, которая применяется на передовом крае сетевых технологий, и перенести ее на социальные отношения. Как заметил Наделла в 2017 году, если «мы» можем сделать это в «физическом месте», это можно сделать «повсеместно» и «где угодно». Он советовал собравшимся прикладным утопистам: «Вы можете начать рассуждать о людях, об их связях с другими людьми, с находящимися в этом месте вещами…»[1050]

Творческий диапазон этого нового мышления демонстрирует заявка Microsoft на патент от 2013 года, обновленная и переизданная в 2016 году под заголовком «Мониторинг поведения пользователя на компьютеризированном устройстве»[1051]. Подкрепленное нескрываемо скудной теорией в сочетании с богатой практикой, запатентованное устройство призвано отслеживать поведение пользователя с целью упреждающего обнаружения «любого отклонения от нормального или приемлемого поведения, которое могло бы повлиять на психологическое состояние пользователя. Прогностическую модель, охватывающую признаки одного или нескольких психологических состояний, можно сравнить с признаками, основанными на текущем поведении пользователя».

Ученые предлагают приложение, которое можно встроить в операционную систему, сервер, браузер, телефон или носимое устройство, и оно будет постоянно отслеживать поведенческие данные человека: взаимодействие с другими людьми или компьютерами, сообщения в социальных сетях, поисковые запросы и онлайн-действия. Приложение может активировать датчики для записи голоса и речи, видео и изображений, движения и обнаруживать, например, «когда пользователь слишком много кричит, проверяя телефонные звонки пользователя и сравнивая соответствующие характеристики с прогностической моделью».

Все эти поведенческие данные хранятся для будущего ретроспективного анализа с целью улучшения прогностической модели. Если пользователь обычно ограничивает громкость своего голоса, то внезапный громкий крик может указывать на некое «психосоциальное событие». В другом варианте поведение может быть оценено в отношении «распределения признаков, представляющих нормальное и/или приемлемое поведение для среднестатистического представителя популяции <…> статистически значимое отклонение от этого базового уровня поведения указывает на ряд возможных психологических событий». Вначале предполагается, что в случае обнаружения аномалии устройство будет предупреждать «доверенных лиц», таких как члены семьи, врачи и лица, обеспечивающие уход. Но по мере углубления в детали патента этот круг расширяется. Ученые отмечают полезность подобных сигналов для медицинских учреждений, страховых компаний и сотрудников правоохранительных органов. Это новая возможность «надзора как услуги», предусматривающая предотвращение любого поведения на выбор клиентов.