Лучшая фантастика

Хотя машинное обучение дало нам возможность с неплохой точностью предсказывать выбор жертвы – тролли не столь внезапны, как хотят казаться, – мой работодатель и другие крупные социальные ресурсы прекрасно понимают, что нужно шагать по тонкой границе между цензурой пользовательского контента и снижением "пользовательской активности", той самой метрики, которая определяет курс акций, а значит, и все решения. Агрессивная модерация, особенно на основе пользовательских отчетов и человеческих суждений, – процесс, в котором жульничают обе стороны, и нет такой компании, которую не обвиняли бы в цензуре. В конечном итоге эти компании просто разводят руками и выбрасывают свои правоприменительные руководства. У них нет ни умений, ни желания становиться поборниками истины и благопристойности во всем обществе. Разве могут они решить проблему, которую не в состоянии решить даже демократическое государство?

Со временем большинство компаний пришли к единому решению. Вместо того чтобы сосредотачиваться на оценке поведения ораторов, они начали создавать ресурсы, позволяющие слушателям защитить себя. Разработка алгоритма, способного отличить легитимную (пусть и эмоциональную) политическую речь от организованного оскорбления всех сразу, – непростая задачка; то, что одни превозносят как правду, сказанную в лицо властям, другие часто считают выходящим за всякие рамки. Намного проще построить и обучить индивидуально настроенные нейронные сети, отсекающие контент, который не хочет видеть данный конкретный пользователь.

Новые защитные нейронные сети – известные на рынке как "броня" – отслеживают изменение эмоционального состояния каждого пользователя в ответ на поток данных. Оперируя векторами, которые охватывают текст, аудио, видео и ДР/ВР[54], броня учится распознавать контент, особенно огорчающий пользователя, и отсекать его, оставляя лишь мирную пустоту. Смешанная реальность и погружение набирают популярность, и лучший способ облачиться в броню – надеть очки дополненной реальности, которые фильтруют все источники зрительных стимулов. Подобно прежним вирусам и червям, тролли – проблема техническая, и теперь у нас есть техническое решение.

Чтобы воспользоваться самой мощной, персонифицированной защитой, нужно заплатить. Операторы социальных сетей, которые также обучают броню, утверждают, что это решение позволяет им не заниматься цензурой пользовательского контента, не решать, какое поведение неприемлемо на виртуальных городских площадях; что оно освобождает всех от всевидящего ока Большого Брата. То, что этот моральный идеал свободы слова также приносит больше доходов, – без сомнения, лишь побочный эффект.

Я отправила брату и его семье самую лучшую, самую продвинутую броню, которую можно купить за деньги.

Эбигейл Форт

Представьте себя на моем месте. Тело вашей дочери превратили в цифровой объект жесткой порнографии, ее голос заставили повторять слова, полные ненависти, ее образ изуродовали с невыносимой жестокостью. И это произошло из-за вас, из-за вашей неспособности постичь низость человеческого сердца. Вы бы остановились? Вы бы остались в стороне?

Броня держала кошмары в узде, а я продолжала писать и делиться, возвышать голос, чтобы перекричать волну лжи.

Мысль, что Хейли не умерла, а была актрисой, участвовавшей в правительственном заговоре против оружия, казалась настолько абсурдной, что даже не заслуживала ответа. Но когда моя броня принялась отфильтровывать заголовки, оставляя пустые места на новостных сайтах и в многоадресных потоках, я осознала, что ложь каким-то образом переросла в настоящую дискуссию. Журналисты начали требовать, чтобы я предъявила чеки, дабы отчитаться за потраченные деньги, которые собрал фонд, хотя мы не получили ни цента! Мир сошел с ума.

Я выложила фотографии с трупом Хейли. Должна ведь была в этом мире остаться хотя бы крупица достоинства, думала я. Никто ведь не станет отрицать то, что увидит собственными глазами?

Стало еще хуже.

Для безликих орд Интернета это превратилось в состязание. Кто пробьется сквозь мою броню, кто поразит мои глаза отравленным видеоклипом, который заставит меня содрогнуться и отпрянуть?

Боты отправляли мне сообщения, маскируясь под других родителей, чьи дети погибли при массовых расстрелах, и швыряли в меня омерзительные видео, когда я вносила их в белый список. Они присылали мне презентации, посвященные памяти Хейли, которые, после того как броня их пропускала, превращались в жесткое порно. Они собирали деньги для курьеров и арендовали дроны доставки, чтобы оставлять возле моего дома фигуры совмещения, окружая меня ДР-призраками Хейли, которая извивалась, стонала, визжала, ругалась, издевалась.

Хуже того, они заставляли изображения окровавленного трупа Хейли дергаться под веселую музыку. Ее смерть стала шуткой вроде "прыгающего хомячка", одного из первых Интернет-мемов моей молодости.

Грег Форт