2030. Как современные тренды влияют друг на друга и на наше будущее

Технологии приносят с собой не только удобства, но и этические дилеммы. Представим, что автомобиль-беспилотник приближается к перекрестку, где он должен повернуть направо. Его сенсоры тщательно контролирует поведение мотоциклиста справа. Неожиданно малыш вырывается у матери на перекрестке и бросается через дорогу. У компьютера всего секунда, чтобы определиться, кого спасти – мотоциклиста или ребенка. Времени на сбор данных и выбор варианта с минимально возможным вредом нет. Чья жизнь должна быть в приоритете: малыша или мотоциклиста? Какое решение примет компьютер?

Это обновленная версия классической задачи под названием «проблема вагонетки». Ситуация заключается в следующем: по рельсам несется отцепленная вагонетка и вот-вот собьет пять человек. Будь такая возможность, перевели бы вы ее на другой путь, где стоит один человек? Проблема вагонетки представляет собой парадокс, который нельзя решить только на основе принципов морали или этики. В фильме «Выбор Софи» Мерил Стрип играет главную роль польской женщины, матери двух детей, участницы антифашистского сопротивления в Польше. Ее арестовывают и направляют в Освенцим, где немецкий офицер ставит перед ней невозможный выбор: кто из ее детей – сын или дочь – отправится в концлагерь, а кто – в газовую камеру? Софи приходится сделать чудовищный выбор за долю секунды. В аналогичной ситуации и машинист в описанном нами выше примере. Моральные дилеммы подобного типа позволяют понять, почему у операторов дронов выше уровень посттравматических стрессовых расстройств, чем у пилотов обычных самолетов. Операторы дронов принимают решения о жизни/смерти, находясь в комфортных условиях центров управления полетом в тысячах километров от места бомбежки, а пилоты самолетов, поднимаясь в воздух для нанесения удара, рискуют собственными жизнями. В опубликованной в The New York Times статье Эяль Пресс рассказывает об операторе дрона по имени Аарон: «Аарон увидел шокирующую сцену: по улицам несли гробы с жертвами налета дронов». Хотя Аарон был опытным оператором, он испытал и физические, и моральные мучения. У него появилась тошнота, крапивница и проблемы с пищеварением. «Мне было очень, очень плохо», – сказал он Прессу. Перед ним каждый день стоял мучительный выбор: кого убить, а кому оставить жизнь.

В 2016 и 2017 гг. собранная Массачусетским технологическим институтом международная исследовательская команда реализовала проект под названием «Моральная машина» – эксперимент для оценки того, как люди разных культурных традиций решают подобные дилеммы. С помощью онлайн-платформы исследователи собрали информацию о почти 40 млн решений в разных дорожных ситуациях, принятых более чем 2 млн человек из 200 с лишним стран и районов мира. Респондентам предлагали ознакомиться с 13 ситуациями, в которых чья-то гибель была неминуема. Одни решения давались проще, чем другие. Например, кому водитель должен отдать предпочтение, домашнему животному или человеку? Следует ли считать спасение большего количество жизней предпочтительным? Однако были и крайне тяжелые моральные и этические дилеммы. Кого лучше спасти: здоровых людей или людей с ограниченными возможностями? Правонарушителя или законопослушного человека? В ходе эксперимента выявилась заметная склонность респондентов спасать людей, а не животных, большее, а не меньшее число жизней, молодых, а не пожилых людей. «Эти три предпочтения можно рассматривать в качестве базы для формирования машинной этики», – делают вывод исследователи.

Как и следовало ожидать, обнаружились и особенности. И мужчины, и женщины были более склонны спасать жизни женщин, причем у женщин это проявлялось более явно. Более религиозные люди предпочитали спасать людей, а не животных. Явные расхождения фиксировались по странам. «Склонность спасать более молодых, а не старых, гораздо менее выражена в странах из восточного кластера [приверженные конфуцианским принципам страны Азии и некоторые мусульманские страны], но гораздо более заметна в странах из южного кластера [Латинская Америка и франкоговорящая Африка]. Аналогичный подход отмечается и в отношении людей с более высоким статусом». Люди из южного кластера демонстрировали «гораздо более слабую склонность к спасению людей, а не животных». Что интересно, «для всех кластеров была общей только (слабая) склонность спасать пешеходов, а не пассажиров, и (умеренная) склонность спасать законопослушных людей, а не правонарушителей». В странах с более индивидуалистскими культурами люди были более склонны спасать молодых, а люди из стран победнее были более толерантны к неосторожным пешеходам, чем к законопослушным пешеходам. Как ни печально, респонденты из стран с заметным экономическим неравенством выражали большую готовность спасать людей, имеющих высокий статус.