Восстание машин отменяется! Мифы о роботизации

Катастрофа самолета рейса 447 авиакомпании Air France и операция по поиску его обломков связывают воедино современную автоматизацию и робототехнику в двух экстремальных средах: на границе стратосферы и в глубинах моря. Воздушное судно упало в океан из-за ошибок во взаимодействии человека с автоматизированными системами. Потом его обломки были обнаружены людьми с помощью дистанционно управляемых и автономных роботов.

Хотя слова «автоматизированный» и «автономный» (в своих наиболее распространенных значениях) предполагают, что такие системы действуют самостоятельно, в обоих случаях провал или успех произошел не из-за машин и людей, действующих по отдельности, но из-за совместных действий машин и людей. Люди-пилоты боролись за жизнь воздушного судна, автоматизированного с целью большей безопасности и надежности; множество связанных друг с другом судов, спутников и свободно плавающих буев помогали определить место катастрофы; инженеры обрабатывали информацию, полученную от роботов, и действовали в соответствии с ней. Автоматизированные и автономные аппараты постоянно возвращались к своим создателям – людям – за информацией, энергией и указаниями.

Трагедия рейса 447 авиакомпании Air France ясно дала понять, что, постоянно приспосабливаясь к среде обитания и видоизменяя ее, мы переделываем и самих себя. Как пилоты могли стать настолько зависимы от компьютеров, что уронили совершенно исправный самолет в море? Какой становится роль человека в таких областях, как перевозки и транспорт, исследовательская и военная деятельность, когда, кажется, все больше и больше задач первостепенной важности выполняется машинами?

Согласно крайней точке зрения, люди близки к тому, чтобы «выйти из употребления», что роботам «не хватает буквально одного обновления программ», чтобы стать полностью автономными, как недавно писал Scientific American[2]. Приверженцы этого взгляда говорят нам, что роботы наступают – мы все чаще встречаем их в знакомой обстановке. Обеспокоенность неизвестными и сомнительными возможностями искусственного интеллекта возникает в связи с мнением о том, что мы находимся на пороге «сверхразумности». Наш мир стоит на грани перемен, в сущности, он уже меняется под влиянием роботов и автоматизации. Неожиданно возникают все новые проекты, воплощающие старые мечты об умных машинах, которые помогают нам выполнять свои профессиональные обязанности, облегчают физический труд и рутинные задачи в повседневной жизни. Роботы, существующие и работающие в непосредственной близости от людей на физическом, когнитивном и эмоциональном уровне, становятся все более обширной и многообещающей темой для исследований. Автономность – мечта о том, что в один прекрасный день роботы будут вести себя как полностью самостоятельные субъекты, – остается источником вдохновения, инноваций и опасений.

Волнение вызвано остротой эксперимента; точные формы этих технологий далеки от завершенности, а еще менее определенно их социальное, психологическое и когнитивное значение. Как изменят нас наши роботы? По какому образу и подобию мы сделаем их? Что останется от наших традиционных сфер деятельности – ученый, юрист, врач, солдат, менеджер и даже водитель и дворник, – когда эти задачи будут выполнять машины? Как мы будем жить и работать?

Нам не нужно заниматься домыслами: по большей части это будущее уже наступило сегодня, если не в повседневной жизни, то в экстремальных условиях, где мы на протяжении десятилетий используем роботов и автоматику. Человек не может существовать сам по себе в верхних слоях атмосферы, в глубинах океана, в космическом пространстве. Из-за необходимости посылать людей в эти опасные условия робототехника и автоматика были созданы и внедрены в данные сферы раньше, чем в другие, более привычные для нас области деятельности.

В экстремальной среде отношения между людьми и роботами подвергаются испытаниям на прочность. В такой среде появляется больше всего инновационных разработок. Здесь у инженеров имеется самая широкая свобода для экспериментов. Несмотря на физическую изоляцию, именно здесь впервые начали проявляться когнитивные и социальные эффекты от использования различных устройств. Поскольку на карту поставлены человеческие жизни, дорогостоящее оборудование и важные миссии, автономность всегда должна сдерживаться соображениями безопасности и надежности.