Думай «почему?». Причина и следствие как ключ к мышлению

Однако в этом исследовании мог быть и еще один источник искажений, на который указал сам Крэг: врачи собирали данные только по тем пациентам, которые прожили достаточно долго для того, чтобы их успели доставить в больницу. Чтобы понять, почему это происходит, нарисуем каузальную диаграмму (рис. 64).

Рис. 64. Каузальная диаграмма для примера со жгутами. Пунктирная линия обозначает гипотетическое причинностное воздействие (не поддерживаемое данными)

На этом рисунке мы видим, что переменная опасность травмы является осложнителем для всех трех переменных: экспериментальной (наложение жгута), опосредующей (выживание до лечения) и итога (выживание после лечения). Поэтому оправданно и необходимо вводить поправки по опасности травмы, как Крэг и делал в своей статье.

Однако, поскольку Крэг изучал только пациентов, которые прожили после ранения достаточно долго для того, чтобы их довезли до госпиталя, он таким образом вводил также поправки по опосредующей переменной выживание до лечения. На практике он таким образом блокировал непрямой путь от использования жгутов к выживанию после лечения и вычислял прямое воздействие, обозначенное пунктирной стрелкой на рис. 64. Это воздействие практически равно нулю. Тем не менее возможно все же и непрямое воздействие. Если благодаря жгутам больше солдат доживает до госпиталя, тогда наложение жгута — очень желательная интервенция. Это означает, что смысл жгута в том, чтобы доставить пациента до больницы живым: когда это сделано, от него больше нет толку. К сожалению, в имеющихся данных (см. табл. 13) нет ничего, что опровергало или подтверждало бы эту гипотезу.

Уильям Крускал некогда печалился, что нет такого Гомера, который бы воспел подвиги на поле боя статистики. Я бы хотел воспеть научный подвиг Крэга, которой в невообразимо сложных условиях смог мыслить четко, собрать данные и подвергнуть стандартную процедуру научному тестированию. Его пример, как маяк, освещает путь всем, кто хотел бы заниматься медициной на основе наблюдаемых данных. Особо горькая ирония заключалась в том, что его исследование не могло увенчаться успехом, потому что он никаким образом не мог собрать данные по бойцам, которые погибли, не успев попасть в госпиталь. Было бы замечательно, если бы он смог доказать раз и навсегда, что жгуты спасают людям жизнь. Как писал сам Крэг в электронном письме, «я не сомневаюсь, что наложение — это оправданная мера». Но в итоге ему пришлось доложиться о «нулевом результате», а такие результаты не попадают в газетные заголовки. Тем не менее он заслуживает уважения за здоровые научные инстинкты.

Глава 10. Большие данные, искусственный интеллект и важные вопросы

Все предопределено, но всегда дается разрешение.

Маймонид (Моше бен Маймон), 1135–1204

Я начал изучать причинно-следственные связи, отправившись по следам аномалии. С помощью байесовских сетей мы научили машины рассуждать, учитывая оттенки серого, и это был важный шаг на пути к мышлению человеческого уровня. Но мы так и не смогли добиться, чтобы машины понимали причины и следствия. Мы не смогли объяснить компьютеру, почему нельзя вызвать дождь, изменив показания барометра. И точно так же не сумели добиться, чтобы он понял, чего ожидать, если один из солдат в расстрельной команде передумает и решит не стрелять. Без способности видеть альтернативные варианты реальности и противопоставлять их существующей реальности машина не может пройти мини-тест Тьюринга. Она не способна ответить на самый главный вопрос, который делает нас людьми: «Почему?». Я воспринял это как аномалию, поскольку не ожидал, что такие естественные и интуитивные вопросы окажутся вне зоны досягаемости для самых передовых думающих систем.

Только потом я понял, что одна и та же аномалия влияет не только на сферу искусственного интеллекта. Те самые люди, которых больше всего должно интересовать «Почему?», а именно ученые, трудились в статистической культуре, которая отрицала их право задавать такие вопросы. Конечно, исследователи все равно делали это неформально, но если им хотелось прибегнуть к математическому анализу, приходилось отбрасывать их как ассоциативные.