2030. Как современные тренды влияют друг на друга и на наше будущее

Как отмечает соавтор исследования Ияд Рахван, вызывает беспокойство то, что «некоторые из рассматривающих вопрос машинной этики говорят так, будто можно разработать безупречный кодекс для роботов. Из наших же данных видно, что универсальных правил нет». По мнению еще одного соавтора проекта, Эдмонда Авада, «больше людей начали понимать, что ИИ может создавать разные этические проблемы для разных групп людей. Вселяет надежду, что люди интересуются этой идеей». По словам менеджера из немецкого подразделения беспилотных автомобилей Audi Барбары Веге, «нам нужен общественный консенсус по поводу тех рисков, которые мы готовы взять на себя».

Развитие ИИ сопровождается не только вытекающими из проблемы вагонетки моральными дилеммами. Как подчеркивает генеральный директор Sonata Software Шрикар Редди (с которым мы обсуждали эти вопросы в блоге Всемирного экономического форума), нужно разделять деонтологические и телеологические этические стандарты. В первом случае мы делаем упор на намерениях и средствах, во втором – на целях и последствиях. Какой подход лучше? Зависит от технологий и контекста. «Что касается автомобилей-беспилотников, перспектива создания безошибочно функционирующей и вместе с тем эффективной и экологичной транспортной системы вполне может оправдать масштабный сбор данных о вождении при разных условиях, а равно и для экспериментов с ИИ-приложениями». В то же время с учетом печальной истории медицинских экспериментов на безвинных людях проблематично обосновывать телеологически идею проведения медицинских испытаний с использованием больших данных. Здесь более разумным представляется применение деонтологического подхода с упором на намерения и средства.

Становится все сложнее игнорировать этические и моральные дилеммы автоматизации, ИИ и больших данных. «Никогда прежде в истории человечества машине не предоставлялась возможность автономно за долю секунды и без внешнего мониторинга в реальном времени принимать решения о том, кто погибнет, а кто выживет, – заключают авторы проекта «Моральная машина». – Нам предстоит перейти этот рубеж уже в ближайшее время». Делаем ставки. С моей точки зрения, это должно произойти к 2030 г. «Прежде чем мы разрешим машинам принимать решения этического характера, нам нужно провести общемировое обсуждение и изложить наши предпочтения компаниям, которые будут заниматься разработкой моральных алгоритмов, и законодателям, которые будут регулировать их». Проблема заключается в том, что мы не можем автоматизировать или представить в виде алгоритма морально-этическую составляющую автоматизации.

«Кому нужно парижское соглашение по климату, когда есть 3D-печать?»

Этот провокационный вопрос задал профессор Школы бизнеса Така при Дартмутском колледже Ричард д'Авени. 3D-принтеры создают объемные объекты посредством последовательного формирования ультратонких слоев материала. В результате получается трехмерная форма. Корректный технический термин для этого процесса – «технология послойной печати». Подобная технология позволяет сократить количество отходов за счет использования точного объема материала для создания самых различных предметов – от пластмассовых деталей до зубных протезов и заменителей человеческих тканей. Как и традиционное производство, этот процесс требует энергии, однако, по словам д'Авени, «от 3D-печати меньше дыма и других токсичных выбросов». Самое большое преимущество 3D-печати заключается в том, что «в результате приближения 3D-принтеров и мини-фабрик к клиентам компании могут сильно сократить транспортные расходы». Мы слишком привыкли к идее о том, что в производстве экономия от масштаба принципиально важна для создания недорогой продукции. Мини-предприятия и гибкие производственные процессы положили начало в 1980-х гг. тренду на ускорение развития и расширение 3D-печати, что идет на пользу окружающей среде. «Мы оставим позади этику одноразового использования XX в., – предсказывает д'Авени. – Люди будут покупать меньше вещей и радоваться тому, что у них есть. Это как раз та перспектива, на которую нас настраивают экологи. Производство меньшего количества товаров при меньших затратах материала позволит нам выбрасывать меньше углекислого газа в атмосферу».