Разговор с незнакомцем. Почему мы ошибаемся в людях и доверяем лжецам

Лучший ответ на этот вопрос дает исследование, совместно предпринятое одним экономистом из Гарварда, тремя крупными учеными-информатиками из Чикагского университета и судебным экспертом. Эта группа – для краткости я буду называть ее по имени экономиста, Сендила Муллайнатана, – выбрала в качестве испытательного полигона город Нью-Йорк. Исследователи изучили дела 554 689 человек, которым в 2008–2013 гг. были предъявлены обвинения в городских судах. Из них, как выяснилось, нью-йоркские судьи отпустили на свободу под залог чуть больше 400 000.

Затем Муллайнатан при помощи системы искусственного интеллекта запустил в обработку данные, которые прокуроры передавали судьям (возраст обвиняемого и полицейское досье), поставив перед компьютером задачу – выбрать из 554 689 человек 400 000, подлежащих освобождению. Это было состязание: человек против машины. Чьи решения более правильные? В котором из списков окажутся люди, не совершившие, будучи выпущенными под залог, никаких правонарушений? И как насчет злоумышленников, что потом не явились на суд? Результаты отличались разительно: 25 % граждан, отпущенных нью-йоркскими судьями под залог и совершивших правонарушения в ожидании суда, компьютер идентифицировал как «подозрительных лиц»! В этом состязании машина разбила человека наголову[9].

Вот лишь один штрих, показывающий эффективность программы Муллайнатана: компьютер пометил 1 % обвиняемых как «группу высокого риска». Этих людей, по мнению искусственного интеллекта, ни при каких обстоятельствах нельзя оставлять на свободе до суда, поскольку, будучи отпущенными под залог, они вновь нарушат закон. Однако живые судьи, работавшие с этими «паршивыми овцами», вообще не сочли их опасными. И выпустили под залог 48,5 % группы высокого риска! «Многие из этих обвиняемых, по мнению судей, не представляли никакой угрозы обществу, – пишет команда Муллайнатана в особенно удручающем разделе своего отчета. – Результат эксперимента показывает, что судьи не только выставляют слишком высокий порог для заключения под стражу, но и не могут верно оценить личность арестованных… Те немногие, кому они отказали в залоге, согласно расчетам компьютера, распределяются по всей шкале прогнозируемого риска». В переводе это обозначает: в том, как судьи принимают решение о назначении залога, не прослеживается никакой логики.

Согласитесь, что это озадачивает. Ведь судьи в данном случае располагают тремя источниками данных. У них, во-первых, есть досье арестованного – возраст, криминальная история, адрес, место работы и прочие сведения, включая предыдущие столкновения с законом. Во-вторых, у них имеются свидетельства окружного прокурора и адвоката арестованного: вся та информация, что сообщается в зале суда. И наконец, они могут составить свое собственное суждение о человеке, которого видят перед собой.

Искусственный же интеллект не может видеть обвиняемого и не слышит того, что говорится в зале суда. Все, что у него есть, – это возраст и полицейское досье обвиняемого. Ему доступна лишь часть сведений, которыми располагает человек, однако его заключения гораздо точнее.

В своей книге «Озарение: Сила мгновенных решений»[10] я писал о том, что дирижеры удачнее выбирают музыкантов для своего оркестра, если на прослушивании кандидаты играют за ширмой. Ограничение информации помогает отборочной комиссии более точно оценить исполнителя. Но это потому, что информация, получаемая посредством зрительного восприятия, в принципе, им не нужна. Если тебе необходимо оценить мастерство скрипача, знание о том, какого он роста, красив или невзрачен, белый или черный, мужчина или женщина, способно лишь навредить, включив механизм предубеждения, который дополнительно осложнит выбор.

Однако если речь идет об освобождении под залог, то тут, казалось бы, любая дополнительная информация должна только помогать. В одном из дел, ранее заслушанных Соломоном, молодой человек в шортах и серой футболке обвинялся в том, что напал на кого-то с кулаками, похитил у жертвы банковскую карту, а потом купил по ней машину. Окружной прокурор подчеркнул, что после двух прежних арестов обвиняемый не являлся на суд. Это важный «красный флажок». Но у неявки бывают разные причины. Что, если арестованному назвали неверную дату? Или его уволили бы, если бы он в нужный день пропустил работу, а потому парень решил не рисковать? Или, допустим, у него ребенок попал в больницу? О подобных смягчающих обстоятельствах непременно сообщает адвокат арестованного: у обвиняемого была уважительная причина. Компьютер, в отличие от человека, ничего такого не знает. Помогает ли это судье?

Еще один момент. Соломон говорит, что наиболее неприятные для него случаи – арестованные с «психическим расстройством и склонностью к насилию». Это самый страшный кошмар любого судьи. Человека отпускают под залог, а он прекращает принимать лекарства и совершает какое-нибудь страшное злодеяние.