Искусственный интеллект

Yudkowsky 2002 — Yudkowsky Eliezer. The AI-Box Experiment, 2002 (Retrieved 2012, January 15; http://yudkowsky.net/­singularity/­aibox).

Yudkowsky 2004 — Yudkowsky Eliezer. Coherent Extrapolated Volition. San Francisco, CA: Machine Intelligence Research Institute, 2004, May.

Yudkowsky 2007 — Yudkowsky Eliezer. Levels of Organization in General Intelligence // Artificial General Intelligence / Eds. Ben Goertzel, Cassio Pennachin. Cognitive Technologies. Berlin: Springer, 2007, p. 389–501.

Yudkowsky 2008 a — Yudkowsky Eliezer. Artificial Intelligence as a Positive and Negative Factor in Global Risk // Global Catastrophic Risks / Eds. Nick Bostrom, Milan M. Cirkovic. New York: Oxford University Press, 2008, p. 308–345.

Yudkowsky 2008 b — Yudkowsky Eliezer. Sustained Strong Recursion // Less Wrong (blog), 2008, December 5.

Yudkowsky 2010 — Yudkowsky Eliezer. Timeless Decision Theory. San Francisco, CA: Machine Intelligence Research Institute, 2010.

Yudkowsky 2011 — Yudkowsky Eliezer. Complex Value Systems are Required to Realize Valuable Futures. San Francisco, CA: Machine Intelligence Research Institute, 2011.

Yudkowsky 2013 — Yudkowsky Eliezer. Intelligence Explosion Microeconomics. Technical Report 2013–1. Berkeley, CA: Machine Intelligence Research Institute, 2013.

Zahavi, Zahavi 1997 — Zahavi Amotz, Zahavi Avishag. The Handicap Principle: A Missing Piece of Darwin’s Puzzle / Transl. N. Zahavi-Ely, M. P. Ely. New York: Oxford University Press, 1997.

Zalasiewicz et al. 2008 — Zalasiewicz J., Williams M., Smith A., Barry T. L., Coe A. L., Bown P. R., Brenchley P. Are We Now Living in the Anthropocene? // GSA Today, 2008, 18 (2), p. 4–8.

Zeira 2011 — Zeira Joseph. Innovations, Patent Races and Endogenous Growth // Journal of Economic Growth, 2011, 16 (2), p. 135–156.

Zuleta 2008 — Zuleta Hernando. An Empirical Note on Factor Shares // Journal of International Trade and Economic Development, 2008, 17 (3), p. 379–390.

Список сокращений

FLOPS (floating-point operation per second) — количество операций с плавающей запятой в секунду

IQ (intelligence quotient) — коэффициент интеллекта, или коэффициент умст­венного развития

ВВП — валовой внутренний продукт

ИИ — искусственный интеллект

ИИЧУ — искусственный интеллект человеческого уровня

КИИ — классический искусственный интеллект

КИМГМ — компьютерная имитационная модель головного мозга

КЭВ — когерентное экстраполированное волеизъявление

МД — моральная допустимость

МП — моральная правота

ПО — программное обеспечение

УИИ — универсальный искусственный интеллект

УИИЧУ — универсальный искусственный интеллект человеческого уровня

ЭКО — экстракорпоральное оплодотворение

Благодарности

Защитная оболочка, которой окружает себя человек во время работы над книгой, остается довольно проницаемой. Многие концепции и идеи, родившиеся в процессе создания текста, каким-то образом просочились во внешний мир. В результате, став предметом широкого обсуждения, они вернулись ко мне в виде многочисленных соображений, конечно, нашедших свое место в окончательном варианте «Искусственного интеллекта». Я дотошно отслеживал, чтобы ни одно имя цитируемых мною авторов не было пропущено в аппарате книги, однако боюсь, что не смогу перечислить всех, кто оказал влияние на ход моих мыслей, — таких людей множество.

В первую очередь я благодарен всем за активное участие в обсуждении темы — это Росс Андерсен, Стюарт Армстронг, Оуэн Коттон-Баррат, Ник Бекстед, Дэвид Чалмерс, Пол Кристиано, Милан Чиркович, Дэниел Деннет, Дэвид Дойч, Дэниел Дьюи, Эрик Дрекслер, Питер Эккерсли, Амнон Эден, Оуэн Эванс, Бенья Фалленштейн, Алекс Флинт, Карл Фрей, Иэн Голдин, Катя Грэйс, Дж. Сторрс Холл, Робин Хэнсон, Дэмис Хассабис, Джеймс Хьюз, Маркус Хаттер, Гарри Каспаров, Марцин Кульчицки, Шейн Легг, Моше Лукс, Уиллам Макаскилл, Эрик Мандельбаум, Джеймс Мартин, Лилиан Мартин, Роко Мийич, Винсент Мюллер, Элон Маск, Шон О’Хейгертах, Тоби Орд, Деннис Памлин, Дерек Парфит, Дэвид Пирс, Хью Прайс, Мартин Рис, Билл Роско, Стюарт Рассел, Анна Саламон, Лу Салкинд, Андерс Сандберг, Джулиан Савулеску, Йюрген Шмидхубер, Николас Шекел, Марри Шанахан, Ноэль Шарки, Карл Шульман, Питер Сингер, Дэн Стойческу, Яаан Таллинн, Александр Тамас, Макс Тегмарк, Роман Ямпольский и Элиезер Юдковский.

Я признателен тем, кто высказал подробные критические замечания, — это Милан Чиркович, Дэниел Дьюи, Оуэн Эванс, Ник Хэй, Кит Мэнсфилд, Люк Мюельхаузер, Тоби Орд, Джесс Ридел, Андерс Сандберг, Марри Шанахан и Карл Шульман.

Хочу поблагодарить за советы и помощь в исследованиях Стюарта Армстронга, Дэниела Дьюи, Эрика Дрекслера, Александра Эрлера, Ребекку Роуч и Андерса Сандберга.