Новые темные века

Что нужно для создания этих видео, и кто их делает? Как мы вообще можем знать? Тот факт, что в кадре нет людей-актеров, не означает, что люди не участвовали в производстве. В наши дни анимация не представляет никакой сложности, особенно та, что рассчитана на детей ввиду низких эстетических стандартов, а прибыль обеспечивается эффектом масштаба. Используются существующие и легкодоступные составляющие, такие как модели персонажей и варианты движений, а повторять и немного менять их можно сколь угодно – даже в самых бредовых и бессмысленных сочетаниях, – ни дети, ни алгоритмы не заметят подвоха. В производстве видео заняты как маленькие студии, в которых пяти «энтузиастам» стало не хватать их основной работы, так и потогонные заводы, огромные цеха, штампующие новые и новые видео. Иногда видео появляется усилиями одного только бездумного искусственного интеллекта или некоего эксперимента, в процессе которого ролик, выложенный на YouTube, набирает миллионы просмотров. Если бы за всем этим ужасом стояло государство или тайная организация педофилов, намеренно растлевающая молодое поколение, мы бы этого не узнали. Возможно, весь немыслимый контент – просто прихоть машины. Попытки обсудить этот вопрос в Интернете только уводят в кроличью нору, где вас ждут конспирология и травмы. Сеть, безусловно, не способна диагностировать себя, так же как система не способна усмирять свои запросы.

Подобные видео травмируют. Дети смотрят, как их любимые герои мультфильмов участвуют в сценах убийств и изнасилований(14). Родители говорят об изменениях в поведении своих детей после просмотра тревожных видеороликов. Нанесенный ущерб реален и, вероятно, долгосрочен. Показывать детям, в том числе малышам, жестокие и неприятные сцены – это форма насилия. Проблему не решить простым заламыванием рук и призывом: «Подумайте о детях!» Несомненно, этот контент совершенно неуместен. Определенно, есть те, кто его создает со злым умыслом. Безусловно, некоторые видео необходимо удалить. Очевидно, что встают вопросы добросовестного использования, апроприации, свободы слова и так далее. Но прочтение этой ситуации только через призму цензуры не позволяет полностью понять задействованные механизмы и, следовательно, осмыслить совокупные последствия и отреагировать соответствующим образом.

Во многих из «странных» видео поражает степень демонстрируемого ужаса и насилия. Иногда за этим стоят грубые детские запросы, порой намеренная провокация интернет-троллей, но в большинстве случаев все происходит на более глубоком и бессознательном уровне. Интернет может усиливать и реализовывать многие из наших скрытых желаний – на самом деле, именно в этом, как видится, он преуспел. Безусловно, расцвет сетевых технологий позволил многим реализовать и выразить себя новыми способами, которые ранее были невозможны, обрести личную свободу и право выражать свою идентичность, и это прекрасно. Никогда голоса самых разных людей не звучали так громко, как сегодня. Однако, когда миллионы детей и взрослых, часами, днями, неделями, месяцами и годами проводящих время онлайн, открывают хищным алгоритмам свои самые сокровенные желания – эта тенденция в подавляющем большинстве случаев кажется насильственной и разрушительной.

Насилие сопровождается немыслимой эксплуатацией: дети страдают не потому, что они дети, а потому что они бессильны. Автоматизированные системы вознаграждения, такие как алгоритмы YouTube, обеспечивают доходность за счет эксплуатации и воплощают в себе худшие аспекты хищного капитализма свободного рынка. Управлять этой системой можно, только если ее разрушить. Эксплуатация закодирована, вплетена в ткань самой системы, поэтому ее сложно увидеть, определить и объяснить, ей труднее противостоять и сложно от нее защищаться. Тревожит то, что в данном случае мы говорим не о научной фантастике, рисующей ужасающее будущее, где людей порабощают искусственные сверхинтеллекты и вездесущие роботы-рабочие. Нет, сейчас те же вычислительные механизмы берут над нами верх в гостиных, игровых комнатах, мы сами кладем их себе в карман. Эксплуатация происходит по обе стороны экрана. С одной стороны, есть те, кто в оцепенении и отупении смотрит видео; с другой – те, кто их создает, несмотря на плохую оплату и принуждение. А между двумя этими полюсами, наживаясь и на тех, и на других, расположились автоматизированные корпорации.

Все эти видеоролики, независимо от того, где, как и с какими намерениями они создаются, – порождение системы, основанной на получении прибыли от показа видео детям. Бессознательные и неожиданные последствия мы наблюдаем повсеместно.