Безономика. Как Amazon меняет мировой бизнес. Правила игры Джеффа Безоса

Наряду со всеми этими впечатляющими технологическими достижениями, существует один важный неприятный момент, связанный с голосом. Речь о том, как часто технологические компании подслушивают своих клиентов и сколько власти сосредотачивается в их руках в виде данных, извлеченных из устных разговоров. То, что настолько могущественные организации, как Amazon и Alibaba, контролируют так много персональных данных, может вызывать тревогу, особенно у защитников конфиденциальности, которые беспокоятся, что эти корпорации смогут подслушивать наши разговоры дома, в машине и в офисе. Основания для беспокойства, безусловно, есть. Умные колонки должны переходить в режим прослушивания только тогда, когда считывают пробуждающие слова, такие как «Alexa» или «ОК, Google». В мае 2018 г. Amazon по ошибке [178] отправила разговор, который топ-менеджер компании из Портленда вел со своей женой, одному из его сотрудников. Amazon публично принесла извинения, заявив, что Alexa «неправильно истолковала» этот разговор.

В конце 2018 г. клиент Amazon из Германии [179] запросил данные о своих действиях — на что имел право в соответствии с новыми европейскими законами о защите персональных данных — и получил файл с 1700 аудиозаписями разговоров Alexa с незнакомым ему человеком. Клиент, обеспокоенный тем, что неизвестный не знает о нарушении его личной жизни, и посчитавший, что ему следует сообщить об этом, поделился файлом с немецким журналом c’t. Редакторы c’t прослушали записи и смогли воссоздать детальный образ пользователя Echo и Fire TV, в том числе его персональные привычки. Представители журнала рассказывали: «Мы могли копаться в личной жизни совершенно незнакомого человека без его ведома, и у нас волосы вставали дыбом от того, насколько аморальными, почти вуайеристскими были наши действия. Будильники, команды сервису Spotify и запросы расписания движения общественного транспорта немало могли рассказать о личных привычках жертв, их работе, музыкальных вкусах. С помощью этих файлов можно было идентифицировать и самого человека, и его спутницу. Запросы погоды, имена и даже чьи-то фамилии позволили нам быстро очертить круг его друзей, а открытые данные из Facebook и Twitter дополнили картину».

Когда журнал связался с этим человеком, тот был в шоке. Amazon принесла извинения и уверила, что это была разовая ошибка их сотрудника.

Неприкосновенность личной информации — не единственная проблема. Произнесенное слово может привести к ошибкам, далеко выходящим за рамки ввода команд, а в некоторых случаях и к финансовым последствиям. В 2017 г. шестилетняя девочка [180] из Далласа разговаривала с Alexa о печенье и кукольных домиках, а через несколько дней к двери их дома доставили 2 кг печенья и кукольный домик стоимостью $160. В Amazon лишь отметили, что родители должны были знать о наличии у Alexa функции родительского контроля и о возможности отменить заказ девочки.

Если учесть, что более 100 млн таких устройств уже установлено и находится в режиме прослушивания, это всего лишь вопрос времени, когда голос станет основным способом взаимодействия людей и машин. Alexa и ее конкуренты вызывают немало вопросов. Движемся ли мы к миру коротких ответов и утраты способности долго удерживать внимание — миру, в котором мы забудем о письменной речи? Даже если Alexa станет достаточно умной, чтобы вести долгие содержательные беседы, а на это уйдут годы, если не десятилетия, разговоры с алгоритмом, особенно на определенные темы, по-прежнему будут казаться странным занятием. Лингвист Джон Макуортер [181] в своей книге «Сила Вавилона» (The Power of Babel) высказывает предположение, что письменность может быть всего лишь временным явлением в эволюции человека. Люди, утверждает он, предпочитают не писать по всем правилам, а разговаривать и обмениваться сообщениями с сокращениями и смайликами.

Массовый переход на речевое взаимодействие вполне вероятен по многим причинам. Например, речь как инструмент обещает демократизировать отрасли, в которых проводят четкое разделение между новичками и опытными работниками. Голос позволяет менее грамотным людям использовать сложные системы. Он дает возможность жертвам болезни Паркинсона, не способным печатать, пользоваться интернетом, а слепым помогает выходить в Сеть и давать компьютеру команды, например включить домашнюю систему безопасности. Он позволяет пожилым людям разбираться со сложными технологиями, а тем, кто за рулем, — общаться в интернете. Иными словами, голос увеличивает число людей, которые могут вступить в мир Amazon.

Глава 8. Склады, работающие во тьме