2062: время машин

Точно так же показатель ошибок при успешном прогнозировании – это доля тех, кто должен был снова совершить правонарушение, но не сделал этого. Показатель ошибок при успешном прогнозировании делит количество человек, которые должны были совершить рецидив, но не совершили, на количество тех, кого программа заподозрила в потенциальном повторении правонарушения. Отличие от ложного позитивного показателя заключается в том, что там количество человек, которые должны были совершить рецидив, но не совершили, делится на общее количество тех, кто не совершил повторного преступления. И вновь женщины могли бы справедливо возмутиться, если бы показатель ошибок при успешном прогнозировании для них оказался выше, чем для мужчин, и в результате больше женщин было бы несправедливо заключено под стражу. Так же и показатель ошибок при неудачном прогнозировании может быть важнее для общества, чем показатель ошибок при успешном прогнозировании – отпускать рецидивистов опаснее, чем держать в тюрьме тех, кто не совершит правонарушение повторно. Те, кто несправедливо остается под стражей, могут поспорить, однако необходимо найти компромисс между их свободой и общей безопасностью. Поэтому мы, возможно, должны относиться к этим двум показателям по-разному.

Мы можем использовать и другие меры честности, такие как соотношение ложных позитивных и ложных негативных показателей или равное отношение к «похожим» индивидам. Однако это не так важно в контексте нашего разговора. Мораль заключается в том, что честность может означать совершенно разные вещи. Нет ни одного простого определения этого понятия. Наоборот, в обществе постоянно происходит дискуссия на тему того, какое именно понимание необходимо в этом конкретном случае. А там, где такая дискуссия не происходит, она часто должна была бы происходить. Поручая машинам принятие таких решений, нужно очень четко понимать, какого рода честность нам нужна в конкретных обстоятельствах.

Прозрачность

Также принятие решений компьютеров определенно должно быть прозрачным процессом. Нам необходимо, чтобы машина не просто принимала справедливые решения, но чтобы этот акт был прозрачным и мы могли удостовериться в ее честности. Для современных ИИ это представляет серьезную проблему. Популярные подходы вроде глубинного обучения порождают системы, которые не могут связно объяснить собственные решения. Их поступки – часто продукт обучения на материале такого количества данных, которое человеку не освоить за всю жизнь.

Люди, разумеется, тоже не всегда прозрачны. Кроме того, мы склонны «придумывать» объяснения для собственных решений задним числом. Однако есть важное отличие. Людей можно привлечь к ответственности за их действия. Если мое решение было крайне неудачным и привело к чьей-либо смерти, я предстану перед судом по обвинению в непредумышленном убийстве. Машины нельзя точно так же привлечь к ответственности. Поэтому для них умение объяснять свои решения гораздо важнее.

Прозрачность поможет привнести в системы доверие. Если медицинское приложение рекомендует вам опасный курс химиотерапии, большинство из нас предпочтет, чтобы прозрачность системы позволяла ей объяснить, как она диагностировала ваш рак и почему химиотерапия – самый удачный выход. Прозрачность также поможет исправлять недостатки систем, если они будут ошибаться.

Безусловно, существуют сферы, в которых прозрачность – это не самое обязательное условие. Мы, вероятно, не станем требовать от программы, контролирующей ядерный реактор, объяснений, почему она его отключает. Мы, скорее всего, потерпим неудобства, связанные с потерей электроэнергии, если это поможет избежать катастрофы.

Чьи ценности?

Как только мы начнем программировать ценности вроде справедливости в компьютерные системы, мы окажемся перед выбором: чьи ценности мы должны программировать? Безусловно, частично это будут продукты нашей юридической системы. К примеру, автономный автомобиль обязан будет соблюдать существующие правила дорожного движения. В Великобритании обгонять можно только по внешней полосе, а поворачивать нельзя, когда горит красный. В США обгонять можно по любой полосе, а в некоторых случаях разрешено поворачивать, даже если горит красный свет.