Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Алекс признаёт, что предоставленная индивиду власть над собственными предпочтениями, как ни странно, делает Qloo менее эффективным и потому менее прибыльным. В конце концов, лаконично замечает он, «большинство людей хочет раствориться в массе». Но он хотя бы предлагает им альтернативу, утешая себя мыслью о том, что новые поколения будут чувствительнее к разнообразию. Кроме того, нужно рассчитывать на свободный рынок алгоритмов, чтобы вызвать к жизни проекты, более внимательные к свободному волителю, и надеяться на то, что они постепенно завоюют пользователей, привлеченных перспективой освобождения. А пока каждый может попытаться перехитрить машину. Например, пользуясь Google Map, я всегда отключаю геолокацию: извлекая пользу из расчета расстояний, я хочу сам определять улицы, чтобы понимать, куда еду, а не слепо следовать за синим шариком. В Deezer я стараюсь выбирать композиции из списка, критерии которого установил сам (например, «сонаты»), не полагаясь на рекомендации. Я сам отмечаю дни рождения своих (настоящих) друзей в ежедневнике и не жду, пока мне напомнит о них LinkedIn. А еще я ухожу с ютуба, когда заканчивается видео, которое я выбрал, хотя сделать это непросто — ведь так легко и приятно отдаваться потоку образов…

Но все эти уловки смешны, потому что рынок подтасован. Поскольку платформы имеют практически свободный доступ к нашим персональным данным, всю нашу цифровую жизнь мы занимаемся тем, что питаем различные ИИ, которые в ответ нами манипулируют. Nudge повсюду, он не оставляет никакой возможности для взвешенного и самостоятельного решения, появляясь в форме рекламы, уведомлений, рекомендаций, сообщений в социальных сетях или спама в почтовых ящиках. Наш мозг постоянно подвергается хакингу, который стал возможен благодаря тому, что мы везде разбрасываем свои данные. Открыть интернет — это как оказаться без штанов в публичном месте, подобно королю из сказки Андерсена: он считал, что на нем наряд из драгоценной ткани, а на самом деле был совершенно голым. В этом может на деле убедиться каждый. Браузер, разработанный стартапом myCo, например, позволяет визуализировать всех чужаков, присутствующих на сайте, собирает куки и пр. Проверив его на себе, я обнаружил более сотни программ, рассылавших мои данные об истории просмотра страниц, клики и результаты поиска по всему миру, чтобы лучше интерпретировать и направлять мое поведение. Этот грабеж абсолютно законен: в течение дня несколько раз ставя галочку «Я согласен» в пользовательских соглашениях, мы добровольно идем на то, чтобы быть под колпаком у платформ. Хитростям, которые сайты и приложения используют ради того, чтобы собирать наши данные, нет числа, и они широко разоблачались, например, Евгением Морозовым[202]. Так, программа, включающая фонарик на вашем смартфоне, в обмен на эту крошечную услугу забирает все ваши данные по геолокации. Помню, как сидел в ресторане в Париже напротив предпринимателя, который с гордостью объявил о своем новом «инновационном проекте» — следить за передвижениями мыши по экрану, чтобы отточить профилирование пользователей. На мой вопрос, не слишком ли навязчивый характер носит эта технология, он пожал плечами и ответил, что она сослужила бы хорошую службу всем нам, после чего принялся обсуждать со своим соседом по столу проблемы благотворительности. Тартюфы 2.0 явно заслуживают новой пьесы…

Ну и как же тогда «цифровые» граждане могут тщательно отбирать алгоритмы, если каждым своим кликом, каждым открытием приложения они дают ИИ оружие против самих себя? Если нам не удастся держать наши данные при себе, мы попадем под власть могущественных ИИ, которые сделают невозможным любой свободный выбор, а значит, и появление любых альтернатив. Европейский общий регламент по защите данных (RGPD) попытался было ввести своего рода контроль, потребовав бо́льшей прозрачности от интернет-компаний. Однако в результате нам еще чаще приходится кликать на «Я согласен», но при этом мы так и не получили никакой реальной возможности оспаривать условия или вести переговоры.