Это злая разумная опухоль

Опустим пока тот факт, что США все равно не действенная демократия (разве что вы считаете «демократией» систему, в которой – если процитировать Тома Пикетти – «Если большинство граждан не соглашается с экономическими элитами и/или группами интересов, оно обычно проигрывает»). Проигнорируем все неудобные сомнения в том, что те люди, которые сейчас кричат о Cambridge Analytica, были бы настолько же против подобной технологии, если бы она использовалась в интересах Клинтон, а не Трампа. (Не то чтобы у демократов не было собственных алгоритмов, собственных систем таргетинга с базами данных; просто эти алгоритмы были отстойными.) Отбросим очевидные идеологические элементы и сосредоточимся на основном аргументе: чем лучше Они тебя знают, тем точнее Они могут настроить свое послание. Чем точнее Они настроят свое послание, тем меньше у тебя свободы. Если дословно процитировать пост Хельбинга и др. в блоге SciAm,

«Тенденция сдвигается от программирования компьютеров к программированию людей». [Непрерывный курсив любезно предоставлен авторами оригинала]

Или вот что пишет Берит Андерсон на Medium.com:

«Вместо того, чтобы иметь дело с обманщиками-политиками, мы можем вскоре стать свидетелями кембрийского взрыва патологически лгущих политических и корпоративных ботов, которые будут манипулировать нами все более умело».

Вы ожидаете, что я пущу при виде этого слюну, верно? Что может быть мне больше по вкусу, чем макиавеллистический код, который считает нас не самостоятельными существами, а физическими системами, наборами вводов и выводов, чьи параметры состояния не демонстрируют ни малейшего следа Свободной Воли? Так и вижу Валери, выбивающую свои аритмичные стуки по люку, перепрограммируя экипаж «Тернового венца» без его ведома.

И я действительно пускаю слюну. В некотором роде. Я пожал плечами, когда выяснилось, что машине Мерсера хватило 150 фейсбучных лайков, чтобы узнать кого-то лучше его родителей (черт, да вы бы меня узнали лучше моих родителей на основе где-то трех), но удивился гораздо сильнее, выяснив, что 300 лайков достаточно, чтобы система узнала меня лучше, чем знает Кейтлин. И уж точно не нужно меня убеждать, что достаточная вычислительная сила вкупе с достаточным количеством информации могут предсказывать поведение человека и манипулировать им.

Но и что с того? Так же всегда было, нет?

Нет, утверждают Хельбинг и его друзья:

«Персонализированные реклама и ценообразование не могут сравниться с классической рекламой или скидочными купонами, потому что последние не адресованы конкретному человеку, а также не вторгаются в наше личное пространство с целью воспользоваться нашими психологическими слабостями и снизить критичность нашего восприятия».

Ой, да перестаньте вы пороть хуйню.

Они «пользовались нашими психологическими слабостями, чтобы снизить критичность нашего восприятия» задолго до того, как первая красотка со стенда кокетливо захихикала на хьюстонском автошоу; с тех пор, как первого гукающего младенца использовали для продажи шин Goodyear; с тех пор, как Международный фонд защиты животных решил, что соберет больше пожертвований, если покажет не гигантских банановых слизней, а то, как Лоретта Свит обнимается с бельками. Реклама пытается снизить критичность вашего восприятия по определению. Каждый безвкусный антиабортный плакат, каждый неизменно милый малыш, страдающий животом на местной автобусной остановке, каждый мультяшный медведь, творящий неестественные вещи с туалетной бумагой, – это попытка перепаять ваши синапсы, буквально изменить ваше сознание.

Ах, но ведь такая реклама не нацелена на отдельных людей, правда же? Это грубый хакинг универсальных подсознательных реакций – «о-о-о» в случае встречи с милыми младенчиками, «вау», когда в лицо мужчине-натуралу суют сиськи. (Ну, почти универсальных: покажите мне фотографию милого дитяти, и я скорее сблюю, чем засюсюкаю.) А это другое, алгоритмы Мерсера знают нас лично. Они знают нас так же хорошо, как друзья, родные, любимые!

Может, и так. Но, знаете, кто еще знает нас так же хорошо, как наши друзья, родные и любимые? Наши друзья, родные и любимые. Те же люди, что сидят напротив нас в пабе или за кухонным столом, которые льнут к нам, как сумчатые к родителям, когда выключается свет. Эти люди рутинно используют интимные знания о нас, чтобы убедить нас посмотреть конкретный фильм, или зайти в конкретный ресторан – или, помилуй боже, проголосовать за конкретного политика. Люди, которые, за неимением лучшего слова, пытаются перепрограммировать нас при помощи звуковых волн и визуальных стимулов; они делают то же самое, что и боты, и, скорее всего, делают это лучше.

Что вы хотите сделать, Савацки? Запретить рекламу? Запретить споры? Запретить общение?