Воспитание машин. Новая история разума

Итак, цифровая экономика – это экономика платформ, рост влияния которых на экономику мы наблюдаем с начала XXI века. Именно платформы больше всех заинтересованы в использовании и развитии технологий ИИ. Сегодня основным драйвером развития сильного ИИ служит спрос на разговорный интеллект агентов. Через какое-то время появится еще более мощный драйвер – спрос на искусственную психику роботов.

Мы рассмотрим подходы к построению сильного ИИ чуть позже, в главе 5. Пока же следует обсудить силы, которые будут препятствовать его появлению, потому что кроме тех, кто заинтересован в инновациях, всегда есть и те, кто им сопротивляется, причем не без оснований. Потому-то каждая крупная технологическая революция сопровождается революциями социальными. Смена технологического ландшафта закономерно приводит к трансформации социальной надстройки.

Глава 4 Социальные проблемы цифровой революции

Кто кем повелевает? Технология нами или же мы – ею?

СТАНИСЛАВ ЛЕМ

Перед нами открываются потрясающие возможности, замаскированные под неразрешимые проблемы.

ДЖОН ГАРДНЕР

Проблемы реальны

Переход к индустриальному укладу, как мы знаем, привел к драматическим изменениям в жизни людей. По мере того как человека заменяли станки, исчезали старые и появлялись новые профессии. Крестьянские массы, теснимые тракторами, двинулись в города. Множество людей лишилось привычных источников существования – настала эпоха, красочно описанная Карлом Марксом в первом томе «Капитала». XX век с утверждением индустриального уклада наглядно продемонстрировал, к каким последствиям могут привести и классовая борьба за дележ возросшего общественного пирога, и имперские схватки за передел мировых рынков.

Было бы наивно ожидать, что предстоящий переход к цифровому укладу пройдет плавно, без подобного рода турбулентностей. Как и прежде, нас ожидают новые «разборки» между трудящимися, теснимыми роботами, и их работодателями, стремящимися увеличивать прибыль акционеров за счет сокращения рабочей силы. Эти отношения будут выясняться в политическом поле с активным участием государства, то есть бюрократии, имеющей свои собственные интересы в отношении искусственного интеллекта. Аналогично в международных отношениях странам, обладающим передовыми технологиями искусственного интеллекта, будет трудно удержаться при разделе новых рынков от силовых угроз, в том числе с использованием боевого ИИ.

Наконец, в ожидании сильного ИИ появится абсолютно новая «экзистенциальная» угроза роду людскому в целом – столкновение с интеллектом, который грозит в конце концов превзойти человеческий. И тогда вопрос о том, кто кем управляет и будем ли мы хозяевами своей судьбы в прекрасном новом мире, встанет во весь рост.

Все эти проблемы потребуют своего решения, и от этих решений будут во многом зависеть судьбы человечества. Далее в этой главе мы последовательно обсудим изменения отношений между трудом и капиталом, гражданами и государством, государствами между собой и, наконец, между людьми и искусственным интеллектом с появлением последнего.

ИИ-безработица

Первое столкновение людей с искусственным интеллектом произойдет очень скоро, еще в эпоху слабого ИИ. Слишком много людей сегодня заняты тем, что Карл Маркс называл «частичным трудом», когда от человека требуется лишь какой-то небольшой набор простых навыков.

До недавнего времени компьютерам были доступны только легко формализуемые задачи: вычисления, поиск в базах данных, форматирование документов и т. д. Соответствующие программы существенно облегчали работу менеджеров, при этом не заменяя их самих, так как касались лишь небольшой части выполняемых ими служебных обязанностей. С этим, в частности, связан хорошо известный парадокс, что постепенное насыщение компьютерами экономики не приводило до сих пор к существенному росту производительности труда[63].

Появление сенсорного интеллекта человеческого уровня, способности компьютеров распознавать объекты и ситуации в реальном мире не хуже людей, многое меняет. Под угрозой оказались представители массовых профессий из разряда «контролеров» (продавцы, охранники, кассиры) или даже простейших «контроллеров», как в случае с шоферами[64]. В целом к 2030 году в США может быть автоматизировано около 40 % рабочих мест[65].

С появлением сильного ИИ ситуация еще более усугубится. Вслед за безлюдными сборочными цехами, складами и магазинами появятся безлюдные заводы, робофермы и строительные площадки, где дома будут печатать гигантские 3D-принтеры. Люди станут массово вытесняться из сферы производства и сервисов, как крестьяне вытеснялись с полей в ходе промышленной революции. Обслуживанием покупателей займутся программные агенты и роботы с развитым разговорным интеллектом, безграничными знаниями и столь же безграничным терпением.