Воспитание машин. Новая история разума

Возникает естественный вопрос: а кто в таком случае будет этими самыми покупателями? Владельцы и управляющие роботизированными активами? Немногочисленные представители творческих профессий, уцелевшие в конкуренции с роботами? А как насчет остальных? Они же не станут молча курить в сторонке!

Здесь на самом деле скрыты два разных вопроса:

● Как поступать с людьми, вытесняемыми роботами здесь и сейчас?

● Какая роль в будущей цифровой экономике останется за людьми, а что отойдет роботам?

Первый вопрос в принципе решаем в виде той или иной разновидности налога на роботов. Например, робот, нанимаемый вместо человека, пожизненно «платит» последнему достойную пенсию через отчисления в специальный общественный пенсионный фонд[66]. Это несколько замедлит темпы роботизации, так как внедрять роботов станет экономически выгодно лишь тогда, когда они будут не просто эффективнее человека, а, грубо говоря, вдвое более эффективными. Зато можно будет обойтись без никому не нужных социальных потрясений. Для тех, кто не привык бездельничать и хотел бы найти себе новое занятие по душе, повысив заодно и свой заработок, будут организованы курсы по освоению новых профессий. Тех, кого пенсионерский стиль жизни устроит, будут ждать туризм и индустрия развлечений. Эти отрасли экономики станут соответственно расти и расширять рынок труда.

Здесь мы уже начинаем отвечать заодно и на второй вопрос – о роли и месте людей в будущем. Ведь кроме производства и распределения продуктов есть еще и постоянно расширяющаяся сфера человеческого общения. Все-таки люди обычно предпочитают общаться со «своими», и роботы в этом плане вряд ли смогут составить им существенную конкуренцию.

Кроме общения между собой за людьми останется очень важная социальная роль «воспитателей роботов», состоящая в передаче им наших человеческих ценностей. Ведь успех будущей человеко-машинной цивилизации целиком зависит от того, насколько хорошо роботы будут разбираться в людях. Как мы уже упоминали и о чем будем более подробно говорить в следующей главе, обучаться персональные агенты и роботы будут через подкрепление, то есть одобрение своих действий. Но со стороны кого? Конечно же, людей, через постоянные поощрения правильных поступков в самых разных формах – от оплаты услуг в соответствии с их качеством до обычных слов благодарности.

К этому же разряду следует отнести и будущую цифровую демократию. Сегодня люди «играют в политику» лишь изредка и в массе своей как любители, так как на это у них попросту нет времени: все заняты своей основной работой. Но в будущем определение общественного мнения по любому вопросу станет, во-первых, предельно упрощенным, а во-вторых, превратится в норму жизни, поскольку только таким образом люди смогут сохранить за собой управление своей судьбой, оставив за роботами исполнение их социальных заказов. Цифровая демократия станет новым интерфейсом между распределенным человеческим и машинным разумом, через который будет достигаться компромисс между индивидуальными желаниями и общественными возможностями, станут определяться приоритеты, цели и долгосрочные планы в цифровой экономике. А также будет обеспечиваться безусловное исполнение коллективно принятых решений. Здесь мы естественным образом переходим к вопросу о роли государства в эпоху сильного ИИ.

ИИ-патернализм

С одной стороны, ситуация с ИИ-безработицей показывает, что без активного вмешательства государства в поддержание общественной стабильности в переходную эпоху нам не обойтись. С другой стороны, с искусственным интеллектом связано множество страхов и фобий в контексте государства как «большого брата». Действительно, для авторитарных государств, которых, к слову, сегодня в мире больше, чем демократических, ИИ предоставляет великолепный инструмент тотального контроля над своими гражданами. Например, в Китае с его системой социального рейтинга право вмешательства государства в частную жизнь вообще не ставится под сомнение. Но и в менее авторитарных странах власть «в интересах народа» всегда найдет легальные способы, как поставить ИИ на службу своим интересам[67]. Ведь у государственной бюрократии и силовых структур есть и собственные амбиции при разделе общественного пирога.

Технологии ИИ позволяют государству не просто следить за настроениями и поступками граждан, но и активно влиять на общественное мнение в пользу тех или иных групп интересов, например с помощью армии искусственных личностей в социальных сетях. А поскольку соответствующие разработки силовых ведомств засекречены, они с большим трудом поддаются общественному контролю, если вообще поддаются.