Технологии против человека

В тот момент, когда мой умный помощник будет знать всю мою историю и любую информацию обо мне в реальном времени, а также сможет сравнить ее с данными миллионов других помощников, подключенных к одной сети, он сможет с уверенностью предсказывать мои действия и реакции. Добро пожаловать в программу профилактики преступлений, где правонарушения можно будет предотвратить на основании собранных ботами данных о зарождающихся намерениях людей, даже если сам человек не будет о них знать. Британская компания Precobs уже тестирует подобные программы в работе местной полиции¹¹⁹.

И также добро пожаловать в мир потенциальных глобальных политических манипуляций через цифровой контент и медиа, в которых цифровые помощники будут нашими официальными представителями, а может быть, из практических соображений – даже нами самими. Может ли умный помощник стать жертвой манипуляций или умышленно вступить в сговор с целью повлиять на мои решения?

Как говорила еще в 2013 году компания Gartner, мобильные устройства синхронизируются со мной, видят меня, знают меня… и скоро они превратятся в меня¹²⁰. И снова я задаю себе вопрос: приведет ли это к процветанию человечества? Я сильно в этом сомневаюсь.

В ближайшем будущем мы уже сможем наблюдать, как наш цифровой помощник пытается договориться с цифровым помощником авиакомпании, чтобы нам в ближайшие шесть минут были оформлены лучшие по цене и качеству билеты на Гавайи. И, разумеется, помощник будет совершать за нас большую часть покупок, ведь он сможет сделать это более эффективно, постоянно собирая сведения о подарочных купонах и распродажах, анализировать ситуацию и мгновенно принимать лучшие решения. Все, что мне нужно, – это подумать о покупке, и она уже ждет меня. Моментальное удовлетворение потребностей в мире полного изобилия. Но в то время как снаружи нас ожидает это самое изобилие, внутри нас все сильнее будет проявляться нехватка чего-то важного: отношений, общества, ценностей, духовности, убеждений.

Для многих ученых и технологических детерминистов из Кремниевой долины растущая мощность умных цифровых помощников ближайшего будущего не представляет собой никакой опасности – что плохого в том, чтобы использовать помощников, которые справляются с задачами чуть лучше, чем мои сегодняшние приложения, верно? В таком случае давайте рассмотрим более настораживающие возможные сценарии будущего.

Подумаем о том, что для того, чтобы быть великолепными, быстрыми и интуитивно предугадывать все наши желания, умным цифровым помощникам (нашим блистательным устройствам и продолжениям нас самих, личным облачным роботам) придется знать действительно многое о нас. На самом деле им, вероятно, придется знать о нас абсолютно все, отбирать информацию в реальном времени из всех доступных источников и постоянно обновлять ее. И многие из нас будут считать, что не имеют ничего против того, чтобы такая система располагала этими данными. Это позволит постоянно улучшать качество услуг, что сделает нашу жизнь еще проще: действительно, как ничтожна цена, которую нужно заплатить за это удивительное удобство и наши возрастающие силы!

Мы добровольно соглашаемся на то, чтобы за нами следили, – примерами тому могут послужить наши две любимые функции «сохранить» и «поделиться», обеспечивающие наш постоянный контакт с платформой. Google мастерски удается таким образом удерживать нас в своей постоянно расширяющейся вселенной, и Google – это лишь один пример такой глобальной платформы, которая хочет стать чем-то вроде всемирного мозга, дублирующего информацию о каждом пользователе в своем облаке. Возможность следить за нами – это как деньги в банке для компаний, работающих исключительно на данных: Google, Baidu, Alibaba, Facebook – компаний, которые не предлагают нам никаких материальных товаров, но специализируются на обработке данных и продвижении рекламы и информационных суперузлах. Представьте их мощность, в тысячи раз увеличенную с помощью ИИ и интернета вещей, – и увидите, как их доходы станут заоблачными.

Кто хочет тотальную слежку?

Итак, какие же проблемы могут возникнуть из-за умных цифровых помощников? Вот несколько примеров того, что они могут спровоцировать.

• Обострение проблем с безопасностью и настройками приватности.

Умного помощника могут взломать, обмануть, запугать или подкупить – тем или иным способом заставить его передать информацию о пользователе другому ИИ, которого он встретит на просторах сети. Например, он может разгласить пароли, с помощью которых третьи лица смогут отправлять электронные письма, делать покупки и пользоваться социальными медиа от лица своего владельца. Масштаб бедствия, следующий за такой комплексной утечкой информации, может привести к непоправимому ущербу, а владелец помощника может при этом оставаться в полном неведении!

• Экспоненциальное слежение.