Парадокс одиночества. Глобальное исследование нарастающей разобщенности человечества и ее последствий

Возможно, наконец-то перемены не за горами. После прямой трансляции в Facebook в 2019 году стрельбы в Крайстчерче, Новая Зеландия, в результате которой был убит 51 человек в двух мечетях, Австралия ввела Закон о распространении одиозных насильственных материалов, который предусматривает наложение штрафов в размере до 10 % глобального оборота компании, если она не сможет достаточно быстро удалить «одиозно насильственные» материалы. Несмотря на то, что этот закон применяется на распространение только самого шокирующего контента («убийство или покушение на убийство, террористический акт, пытки, изнасилование или похищение человека»), он является важным законодательным актом в отношении размера штрафа, который налагается на платформы-нарушители. Он даже предполагает тюремное заключение на срок до трех лет для технических руководителей, если они не подчинятся.

Невидимая токсичность

Когда речь заходит о токсичных высказываниях, распространяющихся на этих платформах, которые, очевидно, не поднимаются до уровня ненавистнических высказываний, подстрекательства к насилию или шокирующих материалов, но все еще вызывают сильное беспокойство – например, буллинг, – проблема, по общему признанию, еще более сложная. Пост с травлей, например, может быть на удивление трудно распознаваем, учитывая, как быстро меняется сленг и как юмор может быть использован в качестве меча.

«Паула такая крутая!» может звучать как положительный пост, но если Паула – имеющая избыточный вес заучка без друзей, это может быть формой издевательства.

Выявление того, что считается оскорбительным, с помощью алгоритма практически невозможно, поэтому так необходимы эффективные системы репортов и модераторы контента.

Это не означает, что нет технических решений, когда дело доходит до вежливости в интернете. Платформы социальных сетей могли бы настроить свои алгоритмы, чтобы вознаграждать доброту вместо гнева или гарантировать, что «непредубежденные, позитивные сообщения будут быстрее подниматься в топы», как предлагает профессор Джамиль Заки. По крайней мере, они могли бы настроить свои алгоритмы так, чтобы так быстро не поднимались ярость и гнев. Или как насчет социальных сетей, которые просят людей дважды подумать, прежде чем публиковать что-то угрожающее или токсичное? Это то, что Instagram начал тестировать на нескольких рынках с помощью всплывающих окон, побуждающих пользователей дважды подумать, прежде чем публиковать комментарии, которые ИИ помечает как оскорбительные (например, «Ты такой уродливый и тупой»). Но опять же, без дамоклова меча регулирования, висящего над ними, трудно поверить, что платформы предпримут достаточные шаги, учитывая их не блестящую репутацию и состояние, поставленное на карту.

Здесь тоже, похоже, грядут правовые изменения. Правила, предложенные в январе 2020 года Управлением комиссара по информации Великобритании для защиты детей в интернете, требуют от компаний обеспечения того, чтобы «детям не предоставлялся контент, который наносит ущерб их физическому или психическому здоровью или благополучию». В его реализации компании, которые не соблюдают требования, будут оштрафованы «пропорционально потенциальному или фактическому нанесенному ущербу, а также размеру и доходу компании».

По крайней мере, у технологических компаний должна быть предусмотренная законом «обязанность заботиться» о своих клиентах, которая по закону обязывает их предпринимать разумные шаги, чтобы их платформы не причиняли значительного вреда. Это было бы похоже на обязанность работодателей заботиться о том, чтобы их рабочие места были безопасными для их сотрудников. А если будет установлено, что они не придерживаются этого, то им снова грозят значительные штрафы и наказания.

Это то, за что недавно выступала группа британских депутатов, конкретно ссылаясь на социальные сети и детей, предлагая в отчете за 2019 год, что наряду с «обязанностью проявлять заботу» правительство должно также привлекать директоров технологических компаний к личной ответственности за причинение вреда, вызванного их продуктами, что повторяет недавнее законодательство в Австралии.

Очевидно, что наши правительства могут и должны предпринять определенные шаги.

Нам не нужно мириться с тем, что цифровой поезд покинул станцию, и мы ничего не можем сделать, чтобы изменить его пункт назначения.