Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти

Для того чтобы прочувствовать подлинный вкус инструментарного общества, оставим в стороне шелуху «века волшебства» и вместо этого сосредоточимся на практиках прикладного утопизма и образе общества, который они предполагают. Наделла предоставил нам ценную возможность, когда представил серию практических приложений, подразумевающих широкое новое видение машинных отношений как шаблона для социальных отношений новой эры.

Откровения начинаются с рассказа Наделлы о сотрудничестве Microsoft со шведским производителем высокоточного металлорежущего оборудования с полуторавековой историей, который в XXI веке изобрел себя заново. Этот проект – новейшая иллюстрация того, что Наделла называет «фундаментальным сдвигом в парадигме приложений, которые мы создаем, изменение в мировоззрении <…> от <…> мобильного и облачного мира к новому миру, который будет состоять из интеллектуального облака и интеллектуальной технологии (intelligent edge)». Искусственный интеллект, говорит он, «учится на информации и взаимодействует с физическим миром», тем самым ссылаясь на возможности, необходимые для экономии за счет действия[1045].

Сначала Наделла описывает машины, в рамках новой заводской среды связанные между собой с помощью телеметрии, которые непрерывно передают данные в «центр интернета вещей» в «облаке», где анализ Microsoft выявляет аномалии, которые могут подвергать машины риску. Каждая аномалия прослеживается по потоку данных до ее причины, и машинный интеллект в центре учится выявлять причинно-следственные связи, с тем чтобы превентивно отключать находящееся под угрозой оборудование, примерно за две секунды, прежде чем успеет произойти потенциально опасное событие.

Затем Наделла описывает новый «прорыв», когда компьютерный «активирующий действия» датчик встраивается непосредственно в машину, что резко сокращает время до превентивного отключения: «Эта логика теперь работает локально, поэтому нет необходимости обращаться к облаку». «Интеллектуальная технология» немедленно понимает, что машина столкнулась с событием, которое предвещает будущую аномалию, и отключает оборудование в течение 100 миллисекунд после получения этого результата, «20-кратное улучшение». Это превозносится как «сила облака, работающая в гармонии с интеллектуальной технологией», чтобы предвидеть и упреждать отклонения от нормы «до того, как они произойдут»[1046].

Возможности машинного обучения растут в геометрической прогрессии, поскольку устройства учатся на опыте друг друга, подпитываясь интеллектом центра и опираясь на него. При таком сценарии дело не в том, что целое больше суммы его частей; скорее, частей уже нет. Целое повсюду, полностью явленное в каждом устройстве, встроенном в каждую машину. Наделла переводит эти факты в плоскость практического применения, замечая, что, когда вокруг вас накапливается достаточно много устройств, «импровизированный центр обработки данных» создается «на производстве, дома или в любом другом месте… Вы можете превратить что угодно в безопасное управляемое искусственным интеллектом место»[1047].

После этого утверждения, наконец, становится ясно, что «безопасный» означает «автоматически лишенный аномалий». На фабрике Наделлы на смену незнанию мгновенно приходит машинное знание, подгоняя все машинное поведение под заранее установленные нормы. Вместо того чтобы беспокоиться об умножении рисков и цепной реакции отказов в случае, если с машинным обучением что-то пойдет не так, Наделла восхваляет синхронность и универсальность гарантированных исходов, когда все машины будут одинаковыми и работающими в унисон.

Как и столетие назад, когда логика массового производства и связанная с ним управленческая вертикаль стали прототипом индустриального общества и всей связанной с ним цивилизационной среды, так и фабрика нового века, какой она видится Наделле, оказалась лабораторией для его социального видения – надзорно-капиталистического видения – инструментарного общества, ставшего возможным благодаря новой форме коллективного действия. Машинное обучение представляется здесь коллективным разумом – разумом улья, – в котором каждый элемент учится и действует в согласии с любым другим элементом, модель коллективного действия, в которой все машины в сетевой системе плавно идут к слиянию, обладая одним и тем же пониманием и согласованно работая с максимальной эффективностью ради достижения одних и тех же результатов. Слияние действий означает, что «свобода» каждой отдельной машины уступает место знанию, которым она делится между собой. Как и предсказывали бихевиористы – Планк, Мейер и Скиннер – эта жертва означает тотальную войну со случайностью, ошибкой и непредсказуемостью в целом.