Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Тотчас же исчезнет бо́льшая часть этических вопросов, встающих в связи с ИИ, которые казались неразрешимыми: дело в том, что они воспринимались как всеобщие, а их следует ставить перед каждым конкретным индивидом. Вернемся к примеру с беспилотными автомобилями, которые якобы должны «сами» выбирать, кем пожертвовать — водителем или пешеходом. Каждый при помощи персональной «первой директивы» мог бы проинформировать автопроизводителя о своем выборе. Эти фундаментальные параметры, прописанные ясно и добровольно, не смогут модифицироваться в процессе машинного обучения, даже если создают неоптимальные ситуации для самого человека или для всей группы. Общество научится, как всегда и происходило, учитывать ограничивающий фактор, каким является существование различных индивидов, более или менее доброжелательных, более или менее альтруистичных. Тогда человек будет принимать на себя моральные последствия своего выбора, будет жить с сознанием того, что он сбил или может сбить пешехода. В этом случае больше не понадобится признавать роботов юридическим лицом: ответственность за их действия естественным образом будет возлагаться на того, кто составил и подписал «первую директиву».

Закон же будет черпать легитимность в том, что определяет поле для маневра в моральном выборе. Например, можно будет, если уж на то пошло, выбирать между своей собственной смертью и смертью другого человека, как это происходит в нашем обществе 1.0, где мало кто из водителей добровольно бросится в кювет, чтобы избежать столкновения с пешеходом. Однако нельзя будет требовать от «первой директивы» разрешения умышленно их убивать. Хотя сегодня и кажется, что алгоритмы оставили далеко позади процесс коллективного урегулирования — «систему сдержек и противовесов», как его называет Гарри Клур, — в этом случае он возродится с новой силой. С одной стороны будут находиться ответственные индивиды, с другой — закон, который надо соблюдать, а между ними — свобода для действия в зависимости от моральных правил, которые каждый устанавливает для себя сам.

Та же самая логика может применяться и в случае медиков, которые бы заранее описывали свою концепцию оптимального лечения, позволяя ИИ комбинировать эту инструкцию с его собственным диагнозом. Когда речь идет о рынке труда, я мог бы четко определить свои предпочтения, прежде чем вручить судьбу алгоритмам ZipRecruiter. На сайтах знакомств все старались бы представить характеристики своего идеального партнера, пусть даже им не раз придется ошибаться. Мы бы вернули способность самостоятельно обдумывать свой выбор, взяв на себя всю ответственность и выразив нашу глубокую индивидуальность через концепцию «первой директивы». В этом случае процесс выработки решения, которым так дорожит Деннет, был бы соблюден. А затем мы позволили бы алгоритмам принимать за нас бытовые решения, возможно, менее эффективно, но с большим уважением к многообразию наших представлений о мире. Речь идет не о том, чтобы отказаться от вычислительной мощи ИИ, но о том, чтобы ее контролировать. Как Улисс, привязавший себя к мачте корабля, чтобы не поддаваться пению сирен, мы будем выполнять работу по делиберации, прежде чем пускаться в сотни ежедневных приключений. В какой-то мере речь о том, чтобы «предустановить» свободного волителя[196].

Разумеется, хитрость Улисса имеет смысл только тогда, когда он может себя отвязать. В «первую директиву» в любой момент можно будет внести изменения, но только при помощи подтвержденного действия ее автора, а не автоматически. Возьмем, например, выбор книг. Здесь следует избегать двух ловушек: с одной стороны, не стоит слепо следовать рекомендациям Amazon; с другой — нельзя довольствоваться лишь ограниченным выбором книг. Параметры, который я сам записал в «первой директиве», позволят мне следовать рекомендациям, сохраняя контроль над собственным вкусом. Поэтому их придется регулярно пересматривать, чтобы они не служили тормозом для моего личностного роста. Если однажды я проявил интерес к аналитической философии, у меня должна остаться возможность в любой момент дополнить его интересом к эротическим романам XVIII века. Однако ни в коем случае нельзя позволять машинному обучению Amazon производить эту модификацию за меня — если машина, например, заметит, что я зачастил на порносайты. Потому что я должен сам морально принять свой интерес к этому предмету (кстати, вполне простительный после перебора с философской литературой). Это условие, которое позволит мне избежать разбросанности «дивида», бездумно порхающего от одного наслаждения к другому, и сформироваться в качестве автономного индивида.

Идеал «первой директивы», таким образом, представляет собой триумф личного выбора над «коллективной полезностью», индивидуальной ответственности — над биохимическим фатализмом, Милля — над Бентамом. Это право на заблуждение, которое мы впишем в самое сердце ИИ.

В защиту права владения персональными данными