Принцип «черного ящика». Как превратить неудачи в успех и снизить риск непоправимых ошибок

Однако сейчас настало время рассмотреть другую часть уравнения – ту, что описывает систему. Мы уже касались этой темы, когда приводили примеры учреждений и областей, успешно учащихся на своих ошибках, в их числе авиация и Virginia Mason Health System. Давайте разберем богатую теоретическую основу, на которой базируются подобные примеры. Мы увидим, что все системы, которые учатся на ошибках, обладают определенной структурой, которую можно обнаружить в разных областях, – это и живая природа, и искусственный интеллект, и наука. Мы изучим способы, которыми эту структуру внедряют у себя самые передовые организации мира – часто с потрясающими результатами.

Именно эта структура чудесным образом проявляется в примере с Unilever. История с распылителем в первую очередь показывает, какой силой обладает проверка. Хотя биологи ничего не знали о физике фазового перехода, они сумели разработать более эффективный распылитель, испытывая распылители разной формы, отбраковывая плохо функционирующие модели и изменяя лучший распылитель каждого поколения.

То, что биологи выбрали именно эту стратегию, – вовсе не случайность: она отражает изменения, которые происходят в живой природе. Эволюция – процесс, который проводит «испытания на надежность», называемые в биологии естественным отбором. Более приспособленные организмы чаще выживают и размножаются, и потомство наследует их гены, подверженные изменениям в ходе случайного процесса – мутации. Как и в случае с распылителем Unilever, это система, которая совершенствуется методом проб и ошибок.

В одном аспекте неудачи подобной системы отличаются от неудач, которые мы наблюдали в авиации, здравоохранении и системе уголовного правосудия. Биологи понимали, что потерпят множество неудач, более того, они сознательно пошли на это, чтобы разобраться, какие модели работают, а какие нет. В авиации никто не совершает ошибки сознательно. Там главное – свести число катастроф к минимуму.

Однако, несмотря на разницу, есть и существенное сходство. Неудачи в авиации дают толчок к реформам. Ошибки – неотъемлемая часть процесса изменения, и речь идет не только о настоящих катастрофах и авариях, но и о тех, что случаются в симуляторах, и о ситуациях, близких к аварийным. Аналогичным образом отбракованные распылители помогали усовершенствовать конструкцию. У всех таких ошибок есть важная закономерность: они – часть процесса адаптации, состоящего из распознания неудачи и реакции на нее.

Процесс эволюции так могуч потому, что он имеет нарастающую природу. Ричард Докинз приводит иллюстрацию к понятию нарастающего (кумулятивного) отбора в своей замечательной книге «Слепой часовщик» (The Blind Watchmaker). Он предлагает нам вообразить обезьяну, которая пытается, стуча по клавишам, набрать фразу из «Гамлета»: «Methinks it is like a weasel» («Сдается мне, что оно похоже на горностая»). Шансов на то, что обезьяна случайно наберет эти слова, очень мало.

Если обезьяна бьет по клавишам наугад и у нас есть 27 символов (26 букв латинского алфавита плюс пробел), первый символ она угадает с вероятностью 1/27, второй – тоже с вероятностью 1/27 и т. д. Значит, первые три буквы совпадут с текстом Шекспира с вероятностью 1/27 × 1/27 × 1/27. Это один шанс из 19 683. Вероятность угадать все 27 символов составляет один шанс на 10 тысяч миллионов миллионов миллионов миллионов миллионов миллионов.

Теперь представим себе, что у нас есть механизм отбора (то есть испытание на надежность), причем отбор этот нарастающий. Докинз написал для этого компьютерную программу. Первые несколько попыток набрать правильную фразу абсолютно случайны, точно как в примере с обезьяной. Но после этого компьютер распознает различные бессмысленные сочетания символов, чтобы определить, какое из них ближе прочих, пусть и на малую толику, к фразе, которая должна получиться в финале. Все прочие сочетания компьютер отбрасывает. Затем он произвольным образом меняет сочетание, прошедшее отбор, и распознает новое поколение сочетаний. И так далее.

Первое поколение было таким:

WDLTMNLT DTJBSWIRZREZLMQCO P

После десяти поколений, в ходе которых программа модифицировала исходную фразу так и сяк, Докинз получил такое сочетание:

MDLDMNLSITJISWHRZREZ MECS P

После двадцати поколений фраза выглядит так:

MELDINLS IT ISWPRKE Z WECSEL

После тридцати поколений сходство с искомой фразой можно заметить невооруженным глазом:

METHINGS IT ISWLIKE B WECSEL

К сорок третьему поколению компьютер выдает правильное сочетание символов. Для того чтобы прийти к этому результату, понадобилось несколько секунд.

Таким образом, нарастающий отбор работает, если существует некая форма «памяти», то есть если результаты одного отборочного теста учитываются в ходе следующего и т. д. Это столь мощный процесс, что в природе благодаря ему появляется «иллюзия замысла»: животные выглядят так, будто их создал некий сверхразум, хотя на деле они созданы слепым процессом эволюции.