Технологии против человека

В наших технологиях все еще 90 % положительного, но тем не менее быстро множатся и некоторые негативные последствия, так как изобретатели, ученые, предприниматели и другие участники рынка в большинстве своем о них не думают.

Интернет вещей (см. главу 5), без соблюдения должных предосторожностей, может превратиться в самую огромную сеть наблюдения и глобальный паноптикум[26], 28. За нами смогут наблюдать в любое время, в любом месте и без нашего ведома, по умолчанию.

Экспоненциальные технологии действительно открывают удивительные возможности для человечества, но мы можем их упустить, если не будем мыслить широко и забудем о том, что технологии и вообще любой бизнес должны стремиться к процветанию человека.

Технологии, власть и ответственность

Власть влечет за собой последствия – но сейчас мы наслаждаемся растущей властью технологий и часто забываем об ответственности, когда речь заходит о нежелательных последствиях, ведущих к коренным изменениям в структуре общества.

Нам нравится общаться друг с другом на Facebook, и многие приходят в восторг от очередного уведомления о том, что кто-то поставил им лайк. Но эта сделка, похожая на сделку Фауста – продажа своих личных данных в обмен на бесплатное пользование глобальной социальной сетью, – не предусматривает, что Facebook должен по-настоящему нести ответственность за те обрывки цифровых данных, которые он о нас собрал. Естественно, Facebook мастерски уклоняется от этого вопроса, ведь разрешение пользователям контролировать то, как используются личные данные, привело бы к краху основной его бизнес-стратегии – продать нас тому, кто больше предложит.

Facebook хочет, чтобы мы чувствовали ответственность за свои действия, пока мы, как в ловушке, наслаждаемся его сервисами. И точно так же, как Национальная стрелковая ассоциация (NRA)[27], они продолжают утверждать, что это люди используют технологии для плохих целей, и технологические компании не виноваты. Позиция, которую занимает по этому поводу NRA – «Людей убивает не оружие, людей убивают люди», – по-моему, просто легкий способ снять с себя ответственность за то, чему они потакают.

Таким же образом мы используем карты Google, GoogleNow[28] и Google Дом (динамик, с которым можно разговаривать как с роботом-помощником), чтобы избежать пробок или обновить наш список встреч. Однако мы пока что не можем придумать, как нам привлечь Google к ответственности за сбор и продажу наших метаданных (хотя и анонимных) маркетинговым компаниям или их передачу правительственным организациям, прикрывающимся исполнением Акта о негласном наблюдении в целях внешней разведки[29]. Уже скоро большинство из нас будут использовать умных цифровых помощников(IDAs)[30] на мобильных устройствах, и, похоже, никому не придется нести ответственность за то, что будет происходить за кулисами. Эти устройства будут слышать все то, что мы говорим, и мы никак не сможем это контролировать. Мы действительно занимаемся тем, что создаем разумные машины без систем контроля и средств защиты.

Мы попадаем в мир, где автоматизированные облачные программные агенты (боты) смогут выполнять огромный спектр задач вместо самих пользователей: назначить встречу, забронировать столик. Мы даже не успеем понять, как боты к этому пришли, а они тем временем все больше будут распоряжаться нашей жизнью.

Мы можем видеть, как люди проявляют крайнюю недальновидность и неосторожность в обращении с новыми технологиями. Это происходит в основном потому, что производители и продавцы технологий рассматривают ответственность за последствия их использования как внешний фактор – таким образом демонстрируя абсолютно неустойчивое отношение к будущему. Это напоминает мне, как нефтяным компаниям очень долгое время сходило с рук их отношение к загрязнению окружающей среды и глобальному потеплению – ведь они тоже считали эти проявления внешними факторами, т. е. тем, за что они не несут ответственности. Само собой разумеется, в подобном отношении к будущему ничего хорошего нет, т. к. оно разрушительно.

Я глубоко убежден в том, что мы должны выходить за рамки прибыли и роста, когда речь идет о технологиях, способных кардинально изменить жизнь человечества. Этот моральный императив по важности превосходит даже призывы ядерного века.

Приведу знаменитую цитату Роберта Оппенгеймера, одного из создателей ядерной бомбы, произнесенную им после бомбежки Хиросимы и Нагасаки: «Я – смерть, разрушитель миров»²⁹. Процитировав древнеиндийский священный текст Бхагавадгиту, Оппенгеймер объявил начало нового этапа в развитии человечества.

Сейчас мы с вами бессознательно ощущаем, что стоим на пороге еще больших перемен.