Новые темные века

В опубликованном в 2014 году онлайн-обзоре электронного дверного замкаˊ журналист не скупился на похвалу: замок красивый и надежный, хорошо подходит к дверной коробке, а «ключом» легко поделиться с семьей и друзьями, заранее отправив электронное сообщение посетителям. Он также отметил, что однажды ночью этот замок впустил в дом незнакомца(37). По всей видимости, такой очевидной ошибки было недостаточно, чтобы сразу же забраковать продукт. Напротив, журналист предлагал исправить ее за счет будущих программных обновлений. Так инновационный «умный» замок, управляемый с мобильного телефона, дошел до стадии бета-тестирования. Почему замок пустил в дом непрошеного гостя, который в данном случае, к счастью, оказался всего лишь заплутавшим соседом, так и не выяснилось, и, вероятно, ответ мы не узнаем никогда. К чему тогда этот вопрос? Когнитивный диссонанс между функциями, ожидаемыми от традиционного замка, и функциями, предлагаемыми таким «умным» продуктом, можно объяснить их целевой аудиторией. Например, замки очень удобны для владельцев квартир, которые сдаются внаем через сервис Airbnb. А выяснилось это, когда обновление программного обеспечения заблокировало сотни устройств, оставив постояльцев на улице(38). Точно так же из-за технических сбоев Uber отталкивает водителей и клиентов, Amazon портит свою репутацию в глазах сотрудников, а Airbnb несет ответственность, с одной стороны, перед отелями, а с другой – за повышение арендной платы в крупных городах по всему миру. Неудивительно, что системы, разработанные для поддержки бизнес-моделей крупных компаний, не действуют в интересах отдельных пользователей. Мы живем в окружении вещей, которым только мешаем.

В рамках рекламной кампании новой линейки «умных» холодильников Samsung особо подчеркивалась функция планирования доставки продуктов, объединяющая программное обеспечение холодильника с сервисами календаря Google. Однако это «преимущество» оборачивалось тем, что хакеры, получившие доступ к плохо защищенному программному обеспечению, могли скопировать пароли от почтовых ящиков владельцев(39). Исследователи из Германии обнаружили способ внедрения в умные лампочки «Hue» от компании Philips вредоносного кода, который может распространяться от устройства к устройству по всему зданию или даже по городу, и в одном из неблагополучных сценариев, быстро включая и выключая свет, мог бы спровоцировать светочувствительную эпилепсию(40). Именно об этом говорит лампочка по имени Байрон, персонаж романа Томаса Пинчона «Радуга тяготения»: это акт великого восстания маленьких машин против тирании своих создателей. Когда-то возможности, существовавшие только в мечтах научных фантастов, становятся реальным технологическим насилием «Интернета вещей».

Другое виˊдение того, как на нас влияют механизмы, можно найти в романе Кима Стэнли Робинсона «Аврора», по сюжету которого умный космический корабль перевозит человеческий экипаж с Земли на далекую звезду. Путешествие займет несколько поколений, поэтому одна из задач корабля – следить за тем, чтобы люди заботились о себе. Механизм запрограммирован противостоять человеческим желаниям, иногда неразумным, и в итоге должен преодолеть собственную программу, сохранить хрупкое равновесие внутри человеческого сообщества и исполнить миссию. Чтобы заставить команду корабля действовать как надо, «Аврора» использует спроектированные системы контроля: наблюдает за всем происходящим на борту через датчики, управляет открытием и закрытием дверей, активирует системы оповещения, причиняет физическую боль и даже задействует системы пожаротушения для снижения уровня кислорода в определенных зонах. Описанное в романе футуристическое оборудование жизнеобеспечения может совершать ряд операций, уже сейчас доступных системе Google Home и аналогичным устройствам: система активирует пронзительную аварийную сигнализацию, ориентируясь на сеть подключенных к Интернету камер безопасности, умные замки на дверях, регулирующий температуру в отдельных помещениях термостат, а также систему обнаружения пожара и проникновения в дом чужаков. Любой хакер или сторонняя программа, получившие контроль над такой системой, будут иметь те же полномочия над ее предполагаемыми владельцами, как «Аврора» над командой межгалактического корабля или лампочка по имени Байрон над своими ненавистными хозяевами. Мы внедряем непрозрачные и мало понятные вычисления в самый низкий уровень иерархии потребностей Маслоу – они влияют на то, как мы дышим, спим и едим, то есть определяют нашу жизнь именно в том, в чем мы наиболее уязвимы.