Интернет вещей. Будущее уже здесь

Эксперты в области человеческого фактора называют это явление «парадоксом автоматизации». По мере того как автоматизированные системы становятся все более надежными и эффективными, повышается вероятность того, что человек, управляющий системой, может «отключиться», целиком полагаясь на машины. Автоматизированные системы становятся все более сложными, и вероятность аварии или сбоя снижается, однако степень тяжести потенциальной опасности во много раз повышается. Дональд Норман, заслуженный профессор приборостроения и вычислительной техники в Северо-Западном университете в Чикаго, один из основателей компании Neilson Norman Group и автор книги «Дизайн вещей будущего»[10], говорит: «Разработчики часто строят догадки и предпринимают действия, опираясь на неполную информацию. Они просто не в состоянии предвидеть, как будут использоваться системы и к каким непредвиденным событиям и последствиям это может привести».

Интернет вещей принесет новые трудности и задачи, касающиеся безопасности, конфиденциальности и вообще нашей жизни в новом цифровом мире. Он определенно станет предметом разногласий и споров в обществе и при этом вызовет новые вопросы по поводу цифровых имущих и неимущих. Более того, Интернет вещей потребует введения новых законов, которые принесут значительные изменения.

Сегодня не нужно далеко ходить за примерами того, как у человека возникают неприятности из‑за автоматизированных систем. Например, водители порой слепо следуют неправильным указаниям навигационной системы, хотя одного взгляда на дорогу было бы достаточно, чтобы понять, что система допустила ошибку. Случалось, что автомобили падали в обрыв и даже сталкивались со встречным транспортом на полосе одностороннего движения, когда водители вместо того, чтобы думать головой и смотреть по сторонам, полагались на электронику. Более того, исследования показывают, что многие водители неправильно используют некоторые автоматические функции, например, адаптивный круиз-контроль. По словам Нормана, в некоторых случаях автоматические системы подсказывают, что автомобиль должен ехать быстрее на съезде с шоссе, потому что перед ним нет других машин. Если водитель не будет внимателен, может случиться столкновение.

Водители, пилоты и машинисты поездов склонны излишне полагаться на автоматические системы – и расслабляться в том, что касается использования навыков и реакций, чтобы избегать опасных ситуаций. Что еще хуже, иногда сами разработчики при проектировании систем исходят из неправильных предпосылок или неполного набора фактов. Иногда они не до конца понимают то, как люди используют персональные устройства или инструменты, или недооценивают влияние культурных различий. Они могут не заметить, как на рабочие показатели или поведение человека влияет сочетание устройств. Норман, один из ведущих мировых экспертов по промышленному дизайну, утверждает, что логика машины не всегда соответствует тому, что происходит в мозгу человека. «Если вы посмотрите на инциденты с человеческим фактором, вы увидите, что почти во всех случаях они произошли, потому что люди должны были думать и действовать как машины», – предостерегает Норман.

Интернет вещей существенно повышает ставки. Десятки, сотни, тысячи устройств создают множество точек пересечения информации в физическом мире. Кроме того, поскольку устройства и алгоритмы обмениваются информацией, но в силу разных требований разработчиков и компаний отвечают разным стандартам и критериям качества, существует реальный риск возникновения систем, которые не смогут обеспечить желаемый уровень взаимодействия человека и машины. Профессор гуманитарных наук в Университете Гриффита в городе Брисбен в Австралии и автор книги «Что стоит за человеческим фактором» Сидни Деккер объясняет это так: «В любом процессе или деятельности всегда присутствует изрядная доля интуиции человека, а это фактор, который не воспроизведет никакая машина».