Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей

О. Э.: Я не очень понимаю людей, много и активно говорящих об опасности, которую несет нам суперинтеллект. У нас достаточно реальных проблем. И одна из самых острых – будущее рынка труда. Существует тенденция к сокращению производственных рабочих мест, а внедрение ИИ-технологий ускорит этот процесс.

Но я хотел бы отметить, что в этом аспекте демографическая ситуация работает на нас. Сейчас в среднем уменьшается количество детей и при этом растет продолжительность жизни. Общество стареет. В результате, с одной стороны, мы имеем рост автоматизации, а с другой – количество рабочих рук не увеличивается в том же темпе, что и раньше. Сейчас прекратился прирост количества работающих женщин. Это дает основания надеяться, что в следующие десятилетия спрос на рынке рабочей силы расти не будет. Но это не решает проблему массовой безработицы из-за автоматизации.

М. Ф.: Поможет ли адаптировать общество к экономическим последствиям автоматизации такая вещь, как универсальный базовый доход?

О. Э.: Ситуация, которую мы уже видели в области сельского хозяйства, явно повторяется в сфере производства. Очевидно, что в ближайшие 10–50 лет многие рабочие места либо полностью исчезнут, либо будут радикально преобразованы. Соответствующие обязанности начнут выполняться меньшим количеством людей, зато намного эффективнее.

Людей, занятых в сельском хозяйстве, сейчас намного меньше, чем раньше, а их рабочие обязанности стали намного сложнее. Естественным образом возникает вопрос, чем заниматься всем остальным? Я не знаю точного ответа, но в феврале 2017 г. я написал статью для журнала Wired, которая называется Workers displaced by automation should try a new job: Caregiver («Работники, уволенные автоматизацией, должны попробовать новую профессию: социальный работник»)[26], где высказался об уязвимости людей без высшего образования в новой экономической ситуации.

Не поможет нам и универсальный базовый доход, особенно если учесть, что у нас пока нет ни всеобщего здравоохранения, ни всеобщей доступности жилья.

М. Ф.: Фактически получается, что поиск решений в этом случае становится проблемой политиков.

О. Э.: Я не уверен, что существует какое-то универсальное решение, но мне кажется, что имеет смысл рассмотреть варианты работы, которые ориентированы на человека. Можно представить работу по обеспечению эмоциональной поддержки. Это компаньоны для пожилых людей, это сиделки для детей с особыми потребностями. Есть много групп населения, которые предпочтут видеть рядом с собой человека, а не робота.

Если общество начнет выделять ресурсы на такие виды работы, обеспечив достойную зарплату, на эти рабочие места появится множество претендентов. Разумеется, это не панацея, но подумать в этом направлении имеет смысл.

М. Ф.: О чем еще стоит беспокоиться в ближайшие десятилетия?

О. Э.: Серьезной проблемой уже стали вопросы кибербезопасности, а появление ИИ только усугубляет ситуацию. Беспокоит и возможность создания автономного оружия, особенно самостоятельно принимающего решения. Но проблема массовой безработицы все равно остается на первом месте.

М. Ф.: А что вы думаете по поводу экзистенциальной опасности, которую несет с собой сильный ИИ, и по поводу проблемы выравнивания?

О. Э.: Это интересные вопросы для немногочисленных философов и математиков. Обычным же людям нет никакого смысла волноваться о таких вещах, тем более что в настоящий момент мы не можем предпринять никаких реальных действий для предотвращения подобной угрозы.

С моей точки зрения, если суперинтеллект все-таки появится, это будет очень интересно. Будет здорово получить возможность с ним общаться. Работа над пониманием естественного языка в AI2 кажется мне ценным вкладом в безопасность ИИ. Не менее ценным, чем беспокойство по поводу выравнивания целей. В конечном счете, в обоих случаях речь идет всего лишь о технической проблеме, связанной с целевыми функциями и с обучением с подкреплением. На мой взгляд, мы достаточно инвестируем в безопасность ИИ.

Кроме того, обсуждая ИИ, люди часто упускают из виду разницу между интеллектом и автономностью. Зачастую считается, что эти вещи идут рука об руку[27]. Но в системе AlphaGo, которая не начнет игру, пока ее кто-то не запустит, мы видим высокий интеллект и низкую автономность. А вот группа подростков, пьющая алкоголь в субботу вечером, – это пример высокой автономности при низком интеллекте. Я, конечно, шучу. Реальным примером тут будет, скорее, компьютерный вирус, который, не обладая особым интеллектом, может быстро распространяться по компьютерным сетям. Опасна именно автономность.

М. Ф.: Да, беспилотники или роботы, самостоятельно принимающие решение убить человека, вызывают большое беспокойство в ИИ-сообществе.