Читаем Эпоха дополненной реальности полностью

Эпоха дополненной реальности

Эта концепция сегодня лежит в основе наиболее инновационных подходов к искусственному интеллекту. Нам нужно доподлинно знать, что роботы нас любят, что они сочувствуют человечеству. Азимовских «Трех законов»[202] недостаточно, чтобы защитить нас от неясных перспектив искусственного интеллекта. Некоторые, как Илон Маск и Стивен Хокинг, уверены, что в самые фундаментальные мотивации как основу всего последующего искусственного интеллекта надо встроить любовь к людям и к нашей планете (или планетам). Но проблема в том, что любые меры предосторожности, которые мы предпримем, всегда сможет обойти интеллект совершеннее нашего. Так что задача заключается в том, чтобы так запрограммировать эти интеллектуальные создания и так настроить их мотивацию, чтобы они стремились нас защищать и позволяли нам быть свободными.

Большие вопросы нашего будущего среди роботов

Мне задают много вопросов, вызванных моими соображениями о роботах, и некоторые из них всплывают в обсуждениях постоянно.

Если роботы, дроиды, киборги будут выглядеть как мы и обслуживать людей в торговле, в медицине, на войне и т. п., не заслуживают ли они законов, которые бы дали им неотъемлемые права?

Нет, они не заслуживают таких прав, но люди значительно повысят свои шансы на выживание, если такие права будут даны. Это создаст культуру, которая защитит нас от роботов, выходящих за пределы нашего контроля и, возможно, понимания.

Я читал бесчисленное количество историй о бунте роботов и думаю, что наши шансы уцелеть в ближайшие несколько сотен лет очень невелики, так что чем скорее мы начнем относиться к роботам с уважением, тем лучше. Нам в любом случае понадобятся правовые рамки для безопасного пользования самоуправляемым автомобилем, роботами-сиделками, дронами и другими подобными устройствами. Я думаю, что права роботов диктуются точно такими же соображениями.

Готовы ли мы вступить в эпоху машин и роботов?

Некоторые были готовы еще десятки лет назад. Другим для этого, возможно, не хватит жизни. Кевин Келли предлагает полезную точку зрения, которую я уже цитировал: «В будущем ваша зарплата будет зависеть от того, как вы сработаетесь с роботом».

Если рассматривать ответы «да» или «нет» применительно ко всему обществу в целом, то главная причина ответить «нет» состоит в том, что роботы смогут заменить на рабочих местах 50–70 % людей, а к такому не готово огромное большинство работников и их иждивенцев, и ни одно правительство на планете, даже японское, их к этому правильно не готовит.

Нам нужно приложить больше усилий, чтобы подготовить мир к жизни с роботами. Я надеюсь, что дорога к этому уже проложена.

Каков главный посыл таких фильмов, как «Из машины» и «Превосходство»? Надо ли бояться сверхразумных роботов и искусственного интеллекта?

Если делать искусственный интеллект таким же разумным, как человек, вы получите в придачу некоторые другие человеческие характеристики, в том числе собственное мнение, сексуальность, желание продолжать жить, любопытство и тщеславие. А с этими чертами – еще и способность ненавидеть, отвлекаться, лгать, конкурировать, жульничать, – словом, делать все, что делает человек, когда его существование под угрозой.

Проще говоря, стремясь создать искусственный интеллект человеческого уровня, будьте чертовски осторожны со своими желаниями.

Закончить я хотел бы подводящими итог словами Марвина Минского[203] из MIT Media Lab.

Наследуют ли роботы землю? Да, но они будут нашими детьми.

Марвин Минский, Scientific American, октябрь 1994 года