Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта

8. Термин «сингулярность» впервые использовал в этом смысле Станислав Улам в некрологе одному из основателей теории вычислительных машин Джону фон Нейману.

Глава 17

1. Первые два термина имеют отношение к франшизе «Терминатор» (Terminator), антиутопии, созданной Джеймсом Кэмероном и Гейл Энн Хёрд. Технологическая сингулярность – это гипотетический момент в будущем, когда машинный разум стремительно самосовершенствуется, превосходя человеческий, и жестоко уничтожает человеческое общество. Апокалипсис, устроенный роботами, часто используется как сюжет в научной фантастике.

2. Здесь я обращаюсь к бритве Оккама. Идея о том, что мы эволюционировали в пяти или восьми независимых друг от друга разновидностях, являясь настолько сложной, насколько могут быть вопросы о различных аспектах сознания, внушает мне скепсис.

3. N. Block, О. Flanagan, G. Guzeldere. "On а confusion about a function of consciousness." The Nature of Consciousness: Philosophical Debates, pp. 375–415. MIT Press. 1998.

4. Chalmers, D. "Facing Up to the Problem of Consciousness." Journal of Consciousness Studies 2 (3): 200–219. 1995.

5. Компьютерные системы традиционно оптимизируют или «обходят», чтобы получить превосходство в любой области. Это в особенности касается суперкомпьютеров. Системы обычно оптимизируют в соответствии с тестом, который используется для определения их рейтинга. Например, для составления списка ТОР500, обновляемого раз в полгода, годами используются оценочные тесты LIN-PACK. Поскольку эти тесты основаны на вычислительной мощности компьютеров с плавающей точкой и достаточно известны, конкурирующие системы легко настроить таким образом, чтобы они показывали лучшие результаты. Это, по всей видимости, произошло в 2013 году, когда китайский компьютер Тянхэ-2 со значительным преимуществом обошел конкурентов, и это казалось событием на грани фантастики. Тестирование в реальных условиях показало, что он гораздо медленнее в работе с многими приложениями, чем американские системы с наивысшим для того времени рейтингом.

6. Block, N. "Two neural correlates of consciousness". TRENDS in Cognitive Sciences. Vol. 9. No. 2. February 2005.

7. Lombardo, M.V.; Chakrabarti, B.; Bullmore, E.T.; Sadek, S.A.; Pasco, G.; Wheelwright, S.J.; Suckling, J.; Baron-Cohen, S. "Atypical neural selfrepresentation in autism." Brain. Vol. 133, No. 2, pp. 611–624. February 1, 2010.

8. Слишком легко говорить об эволюции в терминах целеполагания с точки зрения нашего интроспективного сознания. Получается, что любой выбор, сделанный в ходе эволюции, был в некотором роде «намеренным». Это абсолютно не может быть правдой. Процесс, подобный эволюции, происходит на основании естественного отбора, и конечная цель или самоопределение не может быть его движущей силой. Мы думаем о том, что у эволюции есть конечная цель, лишь благодаря собственной воле и решимости.

9. Gould, S. J. "Foreword: The Positive Power of Skepticism." Why People Believe Weird Things, by Michael Shermer. New York: WH. Freeman. 1997.

10. "Explainable Artificial Intelligence (XAI)." DARPA-BAA-16-53, August 10,2016. http://www.darpa.mil/ attachments/DARPA-BAA-16-53.pdf

11. Full, R. J. "Integrative Biology/Poly-Pedal Lab." http://polypedal. berkeley.edu

12. Yonck, R. "Toward a Standard Metric of Machine Intelligence." World Future Review. 4: 61–70. May 2012.

13. Goleman, D. Emotional intelligence: Why It Can Matter More Than IQ. Bantam Books. 1995.

14. Nei, M. Mutation-Driven Evolution. Oxford University Press, Oxford. 2013.

15. Hornby, G.S.; Globus, A.; Linden, D.S.; Lohn, J.D. "Automated antenna design with evolutionary algorithms." American Institute ofAeronautics and Astronautics. September 2006.

16. Jaynes, J. The origin of consciousness in the breakdown of the bicameral mind. 1976. Houghton Mifflin.

17. Here, I'm speaking mentally, independent of their need for physical nourishment.

18. Goertzel, B. "The Mind-World Correspondence Principle (Toward a General Theory of General Intelligence)" IEEE Symposium on Computational Intelligence for Human-like Intelligence (ClHLI). 2013.

Глава 18

1. Yudkowsky, E. "Creating Friendly Al 1.0: The Analysis and Design of Benevolent Goal Architectures" Machine Intelligence Research Institute, 2001; Goertzel, Ben. "Should Humanity Build a Global Al Nanny to Delay the Singularity Until It's Better Understood?" Journal of consciousness studies 19.1–2:1-2. 2012.

2. Известна как эмоциональная эмпатия.

3. Это соотношение – моя экстраполяция и не представляет мнения ни одного из этих ученых.

4. Спасибо футурологу Айану Пирсону за этот термин.