На что похоже будущее? Даже ученые не могут предсказать… или могут?

Однако ряд тенденций в развитии ИИ вызывает беспокойство. Над некоторыми из них нам стоит серьезно задуматься уже сегодня. Один из очевидных примеров — угроза для рынка труда: дело не только в сокращении количества самих рабочих мест (на рынке как квалифицированного, так и неквалифицированного труда), но и в снижении требований к квалификации, обусловленном тем, что все больше рутинных операций выполняются машинами. В идеальном сценарии подход к организации труда будет пересмотрен таким образом, чтобы люди могли работать рядом с машинами: люди будут делать то, что могут делать только они, а всем остальным будет заниматься ИИ. Но даже в этом случае найдется немало любителей скучной рутины, которым будет непросто адаптироваться к новым условиям труда. Наверняка появятся новые рабочие места. Но, вероятнее всего, к образованию кандидатов будут предъявляться высокие требования, труднодостижимые для большинства людей — причем даже в самых развитых обществах.

Найдутся те, кто скажет, что без работы можно и обойтись. По их мнению, зарплату смогут заменить некие «универсальные базовые выплаты», право на получение которых будет иметь каждый гражданин. (В ряде стран уже проводятся или планируются пробные программы таких выплат.) Но реализовать эту инициативу не так просто. Где взять налоговую базу, которая позволит обеспечить эту неслыханную социальную щедрость? И что будут делать люди с таким количеством свободного времени? Согласно исследованиям социальных психологов, работа, пускай даже и связанная с неквалифицированным трудом, — это нечто куда большее, чем просто источник дохода.

Еще один яркий пример, а точнее — целая группа примеров, относится к военной сфере. Доставкой бомб к месту сброса уже занимаются беспилотные летательные аппараты (БПЛА), однако за выбор целей по-прежнему отвечают люди. Будущее, где каждый шаг беспилотника полностью автоматизирован, а цели выбираются машинами, может показаться кошмаром. Речь об этом пойдет в главе, написанной Ноэлем Шарки.

Кроме того, существует большая группа примеров применения ИИ в областях, предполагающих сегодня эмпатическое общение между людьми. Значительные средства вкладываются в исследования, посвященные «компьютерам-сиделкам», «компьютерам-компаньонам» и «робоняням».

Если няня-робот — это просто система контроля состояния ребенка, позволяющая отслеживать фазы сна и реагировать на плач, отправляя соответствующие сигналы человеку, то в этом нет ничего плохого. Но если это еще и система обработки естественного языка, которая должна развлекать и обучать малыша, то о пользе говорить уже не приходится. Даже совместный просмотр «Бэмби» с таким помощником может обернуться громадными проблемами: что сможет сказать ребенку няня-робот в момент убийства мамы Бэмби?

Схожим образом использование систем ИИ (будь то автоматизированное слежение или роботы) для выполнения рутинной повседневной работы в домах престарелых не приводит к особым проблемам. Однако участие таких систем в разговорах на личные темы, включая ситуации, вызывающие в памяти пожилых людей яркие эмоции, может принести куда больше вреда, чем пользы. (Разумеется, в идеальном мире такие способы использования ИИ даже бы не рассматривались. Профессиональные сиделки и социальные работники получали бы достойную оплату и пользовались бы куда большим уважением, чем сейчас, а друзья и родственники пожилых людей не ленились навещать своих родных. Но в реальности все иначе. Так что обольщаться не стоит.)

В настоящее время несколько групп специалистов по всему миру размышляют над этими разнообразными проблемами и пытаются выработать практические меры, направленные на то, чтобы с ними справиться, компенсировать их негативные последствия и обеспечить надлежащий контроль. Над этим работает, например, международный комитет под председательством специалиста по робототехнике, в задачи которого входит осуществление мониторинга — и консультирование — в области разработки роботов (таких, как БПЛА) для военного применения. Подобными вопросами занимаются и группы специалистов по ИИ вместе с представителями государственных органов, осуществляющих надзор за использованием больших данных в различных областях с целью выявления проблем, связанных, например, с нарушением неприкосновенности частной жизни.

Таким образом, нас ждут серьезные перемены. Многие разработки в области ИИ, безусловно, существенно облегчат нам жизнь. Но будут среди них и такие, которые приведут к непреднамеренным (хотя иногда и прогнозируемым) последствиям, создающим угрозу для важных составляющих жизни людей. Давать полный карт-бланш на разработку ИИ недопустимо.

11 Квантовые вычисления

Винфрид Хензингер.