Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти

К 2018 году принципы, на которых строился «Осведомленный дом», были давно отброшены. Как это случилось? Кто был тому виной? «Осведомленный дом», как и многие другие опередившие время проекты, смотрел в цифровое будущее, которое расширяло человеческие возможности. Ключевым было то, что в 2000 году это видение будущего естественным образом предполагало твердую приверженность неприкосновенности личного опыта. Если человек решает перевести свой опыт в цифровой вид, то он должен обладать исключительным правом на знания, полученные из этих данных, а также исключительным правом решать, как эти знания могут быть использованы. Сегодня эти права на неприкосновенность частной жизни, на доступ к соответствующим данным и их использование узурпированы смелым рыночным предприятием, основанным на односторонних притязаниях на чужой опыт и вытекающие из него знания. Что эта смена эпох означает для нас, для наших детей, для наших демократий и для самой возможности человеческого будущего в цифровом мире? Цель этой книги – ответить на эти вопросы. Она о том, как тускнеет цифровая мечта и как стремительно превращается в ненасытный и доселе неслыханный коммерческий проект, который я называю «надзорным капитализмом».

III. Что такое надзорный капитализм

Надзорный капитализм в одностороннем порядке претендует на человеческий опыт как на бесплатное сырье для превращения его в данные о человеческом поведении. Хотя часть этих данных используется для улучшения продукта или услуги, остальное объявляется проприетарным поведенческим излишком, передается передовым производственным процессам, известным как «машинный интеллект», и перерабатывается в прогнозные продукты, предсказывающие, что вы сделаете прямо сейчас, в ближайшем или более отдаленном будущем. В итоге эти прогнозные продукты торгуются на новом типе рынков – рынках поведенческих прогнозов, которые я называю рынками поведенческих фьючерсов. Надзорные капиталисты сказочно разбогатели на этих торговых операциях, поскольку многие компании горят желанием сделать ставку на наше будущее поведение.

Как мы увидим в следующих главах, конкурентная динамика этих новых рынков побуждает надзорных капиталистов прибирать к рукам такие источники поведенческого излишка, которые позволяют все более и более надежно предсказывать поведение: наши голоса, личности и эмоции. В конце концов надзорные капиталисты обнаружили, что наиболее ценные с точки зрения предсказания поведенческие данные поступают в том случае, если вмешаться в ход игры – подтолкнуть, уговорить, подстроить и направить поведение в сторону, которая принесет прибыль. Конкурентное давление привело к сдвигам, в результате которых автоматизированные машинные процессы не только познают наше поведение, но и в широких масштабах формируют наше поведение. С этой переориентацией со знания на силу уже недостаточно автоматизировать потоки информации о нас; теперь цель состоит в том, чтобы автоматизировать нас. На этой стадии эволюции надзорного капитализма средства производства подчиняются все более сложным и всеобъемлющим «средствам изменения поведения». Тем самым надзорный капитализм рождает новый вид власти, который я называю инструментаризмом (instrumentarianism). Инструментарная власть знает и формирует поведение человека для достижения целей других людей. Вместо вооружений и армий она проводит свою волю с помощью автоматизированной работы все более повсеместной вычислительной архитектуры «умных» сетевых устройств, вещей и пространств.

В следующих главах мы проследим за ростом и распространением этих операций и инструментарной властью, которая их поддерживает. В самом деле, стало трудно скрыться от этого смелого рыночного проекта, чьи щупальца простираются от нежного подталкивания ничего не подозревающих игроков Pok'emon Go в рестораны, бары, закусочные быстрого питания и магазины, которые платят, чтобы играть на рынках поведенческих фьючерсов, чтобы заставить их есть, пить и делать покупки, и до беспощадной экспроприации излишков из профилей Facebook в целях формирования индивидуального поведения, будь то покупка крема от прыщей в 5:45 вечера в пятницу, клик «да» на предложении новых кроссовок, когда после длинной пробежки воскресным утром в вашем мозгу бушуют эндорфины, или голосование на следующей неделе. Подобно тому как промышленным капитализмом двигала непрерывная интенсификация средств производства, надзорные капиталисты и их клиенты теперь привязаны к непрерывной интенсификации способов изменения поведения и накоплению инструментарной власти.