2062: время машин

Не все наши ценности выражены в юридических формулировках. Даже в тех случаях, когда это так, существует множество законов, которые необходимо нарушить. Например, мы осознаём, что автономные машины не всегда должны следовать правилам дорожного движения. Исследование 2015 года исследовательского института транспорта Мичиганского Университета показало, что автономное вождение имеет показатель в 9,1 аварий на каждый миллион миль и 4,1 аварий для машин, за рулем которых находится человек[70]. Хотя они попадали в большее количество происшествий, виноватыми автономные машины оказывались редко. Вероятно, к этим авариям косвенно привело их слишком буквальное следование закону. Большинство происшествий заключалось в том, что в автономные машины въезжали сзади. Если кто-то въезжает в вас сзади, почти всегда виноваты технически именно они. Однако резкое торможение, чтобы не проехать на желтый свет, скорее всего приведет к такому исходу. Многие водители слегка нарушают закон, например проезжают на желтый или превышают скорость при обгоне. Некоторые из этих правонарушений сокращают количество аварий. Автономным машинам придется учитывать и, может быть, даже совершать эти правонарушения.

Нам также необходимо будет запрограммировать некоторые ценности, которые слабо связаны с существующими законами. К примеру, в правилах дорожного движения не найдешь сведений о водительском этикете или привычках. Означает ли подмигивание фарами то, что другому водителю нужно отъехать с перекрестка? Или то, что впереди опасность? Или что с его машиной что-то не так? Автономным машинам нужно уметь это понимать и производить подобные действия, когда возникнет необходимость. Иногда такие действия будут связаны с трудным этическим выбором.

Проблема вагонетки

Этические дилеммы, связанные с автономными машинами, стали известны как «проблема вагонетки». Классическая задача включает в себя движущуюся вагонетку на рельсах. Вам необходимо принять сложное решение, связанное с жизнью и смертью. Вот как выглядит классический сценарий.

Пять человек привязаны к железнодорожным путям, по которым движется вагонетка. Вы стоите между людьми и вагонеткой, рядом с рычагом. Если за него потянуть, вагонетка съедет на параллельные пути. Все было бы просто, если бы к этим путям не был привязан еще один человек. У вас два варианта: ничего не делать и дать вагонетке убить пятерых или потянуть за рычаг и убить одного человека. Как бы вы поступили?

Существует множество вариаций этой задачи, в которых людей подталкивают на пути, пересаживают органы, чтобы спасти несколько жизней, или заключают людей в тюрьму. Варианты рассматривают этический выбор между действием и бездействием, точным и ожидаемым исходом, между прямыми эффектами и возможными побочными[71]. В интернете вы можете попробовать самостоятельно решить такую задачку. «Моральная машина», разработанная Массачусетским технологическим институтом (МТИ), позволяет это сделать[72]. С ее помощью можно даже придумать собственные этические дилеммы. Цель разработки – узнать общественное мнение о том, как должны поступать машины, когда принимают подобные сложные с этической точки зрения решения.

«Моральная машина» – отличный пример способности медиалаборатории МТИ привлекать общественное внимание. Однако не очень ясно, должны ли мы задавать для машины такие нормы поведения[73]. Даже если «Моральная машина» собрала мнения более миллиона потенциальных палачей, есть множество причин, по которым машинам не стоит усваивать то, что говорят по этому поводу люди. Ответить на вопросы в интернете не то же самое, что вцепиться в руль и умышленно кого-нибудь переехать. Среди опрашиваемых наверняка есть люди, которые намеренно отвечают наоборот; однажды я попробовал узнать, что получится, если мое решение будет подразумевать необязательное убийство других людей. «Моральная машина» не собирает демографическую информацию, а значит, невозможно быть уверенным в том, что участники опроса представляют все слои населения в равных пропорциях. Даже если предположить, что это так или может быть так, хотим ли мы, чтобы машины отражали некое бесформенное среднестатистическое общество?

Есть мнение, что к 2062 году мы должны наделить машины более высокими нравственными стандартами, чем у людей. Потому что мы можем это сделать. Потому что машины могут быть точнее людей. Потому что они могут думать быстрее. Потому что они не повторяют наши ошибки.

Мы уж точно не хотим, чтобы наши предрассудки были запрограммированы. Как раз эти предубеждения и рассматривает «Моральная машина». И наконец, мы должны наделить машины более высокими этическими стандартами, потому что они могут и должны жертвовать собой ради нас.

Корпоративная этика

Корпорации, вероятно, станут одними из тех, кто будет отвечать за нравственность машин. Это окажется непросто, учитывая, что большинство корпораций (особенно технологических) сами не являются образцами морали. Если мы этого не изменим, в 2062 году нас ждут серьезные неприятности.