Шум. Несовершенство человеческих суждений

398 Вацлав Гавел писал, что противники Франкела…: Stith and Cabranes, Fear of Judging.

399 «Закон трех ошибок»…: Например, см. Three Strikes Basics, Stanford Law School, https://law.stanford.edu/stanford-justice-advocacy-project/three-strikes-basics/.

400 «Вудсон против Северной Каролины»…: 428 U.S. 280 (1976).

401 способствует интеграции предрассудков в наши решения…: Cathy O’Neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (New York: Crown, 2016).

402 «Потенциально предвзятые математические модели…»: Will Knight, “Biased Algorithms Are Everywhere, and No One Seems to Care”, MIT Technology Review, July 12, 2017.

403 «ProPublica»…: Jeff Larson, Surya Mattu, Lauren Kirchner, and Julia Angwin, “How We Analyzed the COMPAS Recidivism Algorithm”, ProPublica, May 23, 2016, www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm. Заявление о наличии предвзятости в этом примере носит спорный характер; разные типы искажений могут привести к совершенно разным выводам. Что касается точек зрения по данному вопросу и в более широком смысле определения и измерения искажений алгоритма, см. одно из следующих примечаний («не ставит конкретной задачи исследовать»).

404 предиктивной полицейской деятельности…: Aaron Shapiro, “Reform Predictive Policing”, Nature 541, no. 7638 (2017): 458–460.

405 Более того, в этом смысле алгоритмы…: Хотя подобные опасения и всплывают в контексте моделей, опирающихся на искусственный интеллект, нельзя сказать, что для самогó искусственного интеллекта эта проблема носит специфический характер. Еще в 1972 году Пол Словик заметил, что тенденция к моделированию интуиции сохранится и усилится, возможно, усугубляя существующие когнитивные искажения. Paul Slovic, “Psychological Study of Human Judgment: Implications for Investment Decision Making”, Journal of Finance 27 (1972): 779.

406 не ставит конкретной задачи исследовать…: В качестве вступления к спору о противоречивости алгоритма прогнозирования рецидивизма COMPAS см. Larson et al., “COMPAS Recidivism Algorithm”; William Dieterich et al., “COMPAS Risk Scales: Demonstrating Accuracy Equity and Predictive Parity”, Northpointe, Inc., July 8, 2016, http://go.volarisgroup.com/rs/430-MBX‑989/images/ProPublica_Commentary_Final_070616.pdf; Julia Dressel and Hany Farid, “The Accuracy, Fairness, and Limits of Predicting Recidivism”, Science Advances 4, no. 1 (2018): 1–6; Sam Corbett-Davies et al., “A Computer Program Used for Bail and Sentencing Decisions Was Labeled Biased Against Blacks. It’s Actually Not That Clear”, Washington Post, October 17, 2016, www.washingtonpost.com/news/monkey-cage/wp/2016/10/17/can-an-algorithm-be-racist-our-analysis-is-more-cautious-than-propublicas; Alexandra Chouldechova, “Fair Prediction with Disparate Impact: A Study of Bias in Recidivism Prediction Instruments”, Big Data 153 (2017): 5; и Jon Kleinberg, Sendhil Mullainathan, and Manish Raghavan, “Inherent Trade-Offs in the Fair Determination of Risk Scores”, Leibniz International Proceedings in Informatics, January 2017.

Глава 27

407 Они наверняка знают…: Tom R. Tyler, Why People Obey the Law, 2nd ed. (New Haven, CT: Yale University Press, 2020).

408 одно известное и весьма заковыристое судебное разбирательство…: Cleveland Bd. of Educ. v. LaFleur, 414 U.S. 632 (1974).

409 Влиятельные комментаторы в свое время…: Laurence H. Tribe, “Structural Due Process”, Harvard Civil Rights – Civil Liberties Law Review 10, no. 2 (spring 1975): 269.

410 Вспомним ярко выраженную негативную…: Stith and Cabranes, Fear of Judging, 177.

411 серии книг для повышения и восстановления энергетики…: См., например, Philip K. Howard, The Death of Common Sense: How Law Is Suffocating America (New York: Random House, 1995); и Philip K. Howard, Try Common Sense: Replacing the Failed Ideologies of Right and Left (New York: W. W. Norton & Company, 2019).

Глава 28