Воспитание машин. Новая история разума

Таким образом, мы можем представить себе следующую бизнес-модель, устраивающую всех участников будущего рынка робототехники. Производители роботов специализируются на разработке робоплатформ, аналогичных автомобильным платформам, на основе которых современные автобренды собирают свои модели в самых различных модификациях. Аналогичным образом будущие бренды робототехники будут комплектовать конкретные модели роботов операционной системой с конкретными наборами навыков и поставлять их конечным пользователям в аренду. Пользователи будут платить роботам «зарплату» за их услуги, размер которой будет определяться рынком и зависеть от степени удовлетворения пользователей. Это удобно, так как пользователи не рискуют своими средствами, как при покупке роботов, и не переплачивают за обещанные, но не оказанные услуги.

Цифровая платформа, предоставляющая операционную систему роботов (даром!), обеспечивает все расчеты между пользователями и поставщиками услуг с помощью электронного кошелька робота, являющегося неотъемлемой частью операционной системы. Этот электронный кошелек аналогичен дофаминовой системе мозга, обеспечивая обучение с подкреплением, нацеленное на удовлетворение потребностей конечных пользователей. Собственно, деньги играют в рыночной экономике аналогичную роль, посылая обучающие сигналы всей цепочке создания стоимости.

Бизнес этой платформы строится на небольшом проценте с транзакций между электронными кошельками роботов. Мы можем приблизительно оценить масштаб этого бизнеса. Допустим, внедрение роботов будет происходить с той же скоростью, с которой происходил переход от аграрной экономики к индустриальной, – примерно за век. Если через 100 лет основная часть ВВП будет производиться роботами, то их суммарная годовая зарплата составит порядка $100 трлн. Предположим, что она будет равна нулю в момент создания операционной системы роботов и каждый год станет прирастать на $1 трлн. Если поставщики операционной системы будут отчислять себе 1 % от всех зарплат роботов, то их доход будет каждый год возрастать на $10 млрд, а оценка стоимости компании с самого начала будет примерно $100 млрд. Так что создателям искусственной психики роботов есть за что побороться.

Наконец, last but not least, обсудим вопрос о безопасности будущего роботизированного общества. Чтобы обеспечить мирное сосуществование роботов и людей, Айзек Азимов и его друг и редактор Джон Кэмпбелл предложили в свое время «три закона робототехники» (в порядке их приоритетности):

1. Робот не должен причинить вреда человеку.

2. Робот должен повиноваться приказам человека.

3. Робот должен заботиться о собственной безопасности.

Однако сам же Азимов в своих произведениях неоднократно показывал неоднозначность трактовки этих законов в различных ситуациях. Ведь спасение одного человека может причинить вред другому, а любой словесный приказ содержит множество неявных ограничений, которые робот может и не угадать. Наконец, свою собственную безопасность он может легко связать с необходимостью исполнения уже отданных приказов или оправдать вред, нанесенный конкретным людям, пользой остальному человечеству, как это описано у Артура Кларка в его романе «2001: Космическая одиссея».

Современный научно обоснованный вариант трех законов робототехники предложен Стюартом Расселом[104], а именно:

1. Единственная цель роботов – максимизировать пользу, оказываемую ими людям.

2. Первоначально роботы не знают, в чем именно эта польза заключается.

3. Роботы обучаются пониманию полезности в процессе общения с людьми.

Как видим, эти законы основаны на формировании у роботов человеческой системы ценностей методом обучения с подкреплением, когда их поведение постоянно оценивается людьми, как это и подразумевается в описанной выше операционной системе роботов.

В отличие от законов Азимова, в этой трактовке у роботов никогда не появляется уверенности в том, что они действительно правильно понимают пользу своих действий, а есть постоянное стремление улучшать свое текущее понимание ценностей и желаний людей, с которыми они взаимодействуют. Эти ценности не программируются, а воспитываются, подобно тому как это происходит у нас, и по этой же причине ценности роботов оказываются теми же самыми ценностями, что и у людей, с тем отличием, что человеческие ценности для роботов оказываются выше их собственных нужд, поскольку инстинкт самосохранения в них намеренно не закладывается.

Резюме

Итак, если ранее мы лишь обозначили современный вектор развития ИИ в направлении формирования сильного ИИ, то в этой главе предложили конкретную исследовательскую программу по его созданию. Мы определили методологию разработки – обратную инженерию архитектуры мозга – и сформулировали ее цель: создание искусственной психики в качестве будущей операционной системы роботов и программных агентов. В следующей главе мы попытаемся заглянуть в будущее – как мы представляем себе переход цивилизации на новый цифровой технологический уклад, основанный во многом на технологиях ИИ.