Right Kind of Wrong: The Science of Failing Well

Мысли, которые в итоге превратились в мою систему классификации неудач, начали формироваться тридцать лет назад. Мои исследования были посвящены вопросу о том, почему медицинские ошибки сохраняются даже в первоклассных больницах - и даже после того, как внимание экспертов и общественности к этой проблеме резко возросло. Открытие распространенности непреднамеренного вреда в больницах стало шоком как для общественности, так и для медицинских работников в конце 1990-х годов. По оценкам, такие ошибки в американских больницах ежегодно становятся причиной четверти миллиона ненужных смертей пациентов. Как могло случиться, что так много хорошо обученных и благонамеренных медицинских работников, которые исповедовали принцип "не навреди", продолжали это делать? Как я выяснил, во многом причина кроется в природе комплексного отказа.

Благодаря своему инженерному образованию я стал поклонником новаторской книги Перроу "Нормальные аварии", впервые опубликованной в 1984 году и оказавшей неизгладимое влияние на представления экспертов о безопасности и рисках. Перроу сосредоточился на том, как системы, а не отдельные люди, приводят к последующим отказам. Важность этого различия нельзя недооценивать. Понимание того, как системы приводят к сбоям, и особенно того, какие виды систем особенно подвержены сбоям, помогает исключить вину из уравнения. Это также помогает нам сосредоточиться на снижении количества отказов путем изменения системы, а не путем изменения или замены человека, который работает в неисправной системе.

Я обратился к работе Перроу, чтобы разобраться с тем, как сохраняются медицинские несчастные случаи. Перроу описал обычный несчастный случай - термин, призванный спровоцировать - как предсказуемое (то есть нормальное) следствие системы с интерактивной сложностью и тесной связью. Интерактивная сложность означает, что множество частей взаимодействуют таким образом, что последствия действий трудно предсказать. Например, слегка изменив курс своего судна, капитан Ругиати вышел на траекторию, где внезапное появление двух лодок с омарами потребовало последующего внезапного и трудновыполнимого поворота, завершившегося фатальной аварией. Жесткая связь - термин, заимствованный из инженерного дела, - означает, что действие в одной части системы неумолимо ведет к реакции в другой части; прервать цепь событий невозможно. Когда механическое оборудование банковского банкомата принимает вашу банковскую карту, программное обеспечение, управляющее машиной, и банковское приложение тесно связаны друг с другом и работают вместе, чтобы завершить вашу транзакцию. Если какой-либо компонент выходит из строя, то выходит из строя и вся система. В системах с жесткой связью нет слабины.

Для Перроу назвать несчастный случай нормальным означало, что некоторые системы функционируют как подстерегающие несчастные случаи. Их конструкция делает их опасными. Это просто вопрос времени, когда такие системы выйдут из строя. Напротив, система с низкой интерактивной сложностью и неплотной связью - скажем, начальная школа - не будет подвержена обычным авариям. Если же система имеет высокую сложность, но не имеет тесной связи (например, большой университет с множеством научных подразделений, которые работают относительно независимо), то в одной части может произойти сбой, не вызывающий автоматически серьезного сбоя во всей системе.

Как отмечают ученики Перроу Крис и Андраш в книге Meltdown, со временем все больше и больше наших учреждений попадают в опасную зону Перроу: "Когда Перроу опубликовал книгу "Нормальные аварии" в 1984 году, описанная им опасная зона была немногочисленной. В нее входили такие системы, как ядерные объекты, химические заводы и космические полеты. С тех пор все виды систем - от университетов и фирм на Уолл-стрит до плотин и нефтяных вышек - стали более сложными и тесно связанными".