2062: время машин

Основная масса технологических компаний базируется в Калифорнии, которая когда-то была известна как место, где можно скрыться от капиталистической гонки за прибылью. Однако многие из них содержатся на старые добрые средства крупных корпораций и военных. Слоганом Google раньше была фраза «Не будь злом» – яркий показатель того, что это вполне возможно. Слоган не звучал как «Сделай мир лучше» или «Принеси людям больше счастья»[74].

Разумеется, эти большие технологические компании значительно обогатили нашу жизнь. Однако мы начинаем понимать, что все «бесплатные» сервисы достались нам не просто так. Мы начинаем осознавать, что они совсем не бесплатные. Как говорится, когда продукт ничего не стоит, – это значит, что продукт – вы. У этих компаний одни из самых высоких доходов на планете. Они не раздают свои сервисы безвозмездно.

В число самых известных философов Силиконовой долины входит Айн Рэнд. Опасная смесь ее либертарианских и капиталистических идей, судя по всему, оказала большое влияние на данный сектор экономики. Любой разрыв – это хорошо. Государств в целом – всегда плохо. Мы можем и должны довериться рынку. Однако рынок ни милосерден, ни дальновиден. Есть множество его частей, которые должны регулироваться, чтобы извлечь из них пользу и достичь какого-то общего блага.

Я бы мог привести много примеров. Легко выбрать компанию вроде Uber, поэтому давайте возьмем какую-нибудь другую. Например, Facebook – компанию, которая вкладывает большие деньги в сферу ИИ. В 2014 году стало известно, что Facebook втайне манипулировал настроениями пользователей, и в связи с этим прошла волна протестов. Facebook поставил эксперимент, в котором скрывал положительные или негативные посты из ленты 689 000 пользователей, чтобы посмотреть, сделает их это счастливее или грустнее. Никакого одобрения от независимого этического комитета на этот эксперимент получено не было, кроме участия в нем двух исследователей из Корнеллского университета.

Если я захочу поставить эксперимент на людях, я должен буду получить разрешение из комитета по этике в моем университете и информированное согласие от участников. Мне нужно будет доказать, что риски минимальны, и предпринять меры, чтобы предотвратить потенциальное причинение вреда. Facebook ничего из этого не сделал. Компания предположила, что пользователи дали согласие, когда приняли условия пользовательского соглашения во время регистрации. Однако эти условия настолько общие, что никакой комитет по этике ни за что их не одобрил бы. К тому же, компания ничего не объяснила растерянным пользователям ни до, ни после эксперимента, как потребовал бы любой комитет по этике.

Возможно, это не представляло бы никакой проблемы, если бы это был A/B-тест по определению оттенка синего, который будет использоваться на главной странице[75].

Однако попытка намеренно испортить людям настроение неприемлема. Неприемлемо также, на мой взгляд, задавать для компаний более низкие этические стандарты, чем для университетов. Наоборот, мы должны строже относиться к моральному облику таких корпораций, раз они стремятся скорее к прибыли, чем к знаниям[76].

Обеспокоенность поведением Facebook неуклонно растет. В качестве второго примера можно вспомнить, как компания недавно представила мессенджер для детей Messenger Kids. Это приложение разработано для детей в возрасте от шести до двенадцати лет. Намерения компании очевидны: им нужно привлечь еще один миллиард пользователей. Лучший способ это сделать – заинтересовать их еще в юном возрасте.

Но существует множество доказательств того, что социальные сети могут сделать людей депрессивными, неуверенными в себе и несчастными. Даже Facebook признал, что социальные медиа способны отрицательно влиять на душевное здоровье людей. Так должна ли компания подталкивать детей, которые находятся в очень впечатлительном возрасте, к тому, чтобы пользоваться социальными сетями?

В США Закон о защите конфиденциальности детей в интернете (англ. Children’s Online Privacy Protection Act, сокращенно COPPA) вступил в силу в 1998 году, чтобы защитить детей в возрасте до тринадцати лет. Он запрещал социальным медиа регистрировать детей и требовал родительского согласия на разглашение любых данных о ребенке. Facebook утверждает, что Messenger Kids был одобрен комитетом экспертов в сфере детского развития, медиа и интернет-безопасности. Однако журнал Wired обнаружил, что большинство этих экспертов спонсируются самой компанией Facebook.

Не должен ли Facebook в таком случае прилагать больше усилий, чтобы уменьшить количество детей, которым еще нет тринадцати, в своей социальной сети, а не увеличивать его? Марк Цукерберг даже в какой-то момент поклялся бороться за отмену COPPA[77].

Не будем ли мы спустя несколько лет сожалеть о тех невинных временах, когда наши дети еще не освоили социальные медиа?