2062: время машин

Проблема вагонетки – классический пример моральной дилеммы, которая ставит под вопрос законы Азимова. Предположим, вы сидите в вашей «тесле», которая движется автономно. Вдруг двое детей выбегают на дорогу за мячом. Собьет ли «тесла» этих детей или повернет и врежется в припаркованную рядом машину? У компьютера есть миллисекунды на принятие решения. Так или иначе, дело закончится травмой или смертью. Времени на то, чтобы отдать управление в ваши руки, нет. Если не делать ничего – погибнут дети. Если свернуть в припаркованную машину – погибнете вы. Законы Азимова не помогают «тесле» принять решение.

Ограниченность этих законов подчеркивается тем, что позднее Азимову пришлось добавить к ним четвертый:

• Нулевой закон. Робот не может причинить вред человечеству или своим бездействием допустить причинение вреда человечеству.

Закон назван нулевым потому, что он первостепенен по отношению к предыдущим трем законам. Закон включает в себя ситуации, в которых причинение вреда человеку может быть правильным решением для робота. Однако это все еще не объясняет, как решить проблему вагонетки/«теслы».

Нулевой закон Азимова, вообще говоря, создает новые проблемы. На основании чего робот может понять, что нечто способно навредить человеку? И что вообще значит слово «вред»? Как, например, определить, что важнее: благополучие тех людей, которые живут на планете, или тех, которые еще не родились?

Я предполагаю, что у нас может не получиться запрограммировать вручную этику для наших ИИ. Возможно, нам придется позволить им научиться этому самостоятельно. Этот подход тоже не вполне однозначен. Люди часто ведут себя не совсем в соответствии с собственными моральными стандартами. Поэтому машинам будет трудно научиться этичному поведению у нас.

Вообще-то, нам стоило бы, наверное, задать для машин более высокие этические стандарты, чем те, которых придерживаемся мы сами. Они не подвержены человеческим слабостям. Автономный автомобиль можно запрограммировать так, чтобы он никогда не превышал скорость. Вооруженный дрон можно запрограммировать так, чтобы он соблюдал международное гуманитарное право. Робота-адвоката можно запрограммировать так, чтобы он никогда не прятал найденные улики. Это занимательный вопрос, который остается открытым: как им выучить такие нормы сверхэтики?

Конец смерти

Наше сознание напрямую зависит от того, живы ли мы. Судя по тому, что известно современной науке, наше сознание умирает вместе с нами. Это дает нам повод поговорить о проблеме смерти. И придем мы к ней через разговор о трансгуманизме.

ИИ в наши дни стал своеобразным мейнстримом. Двадцать лет назад, когда я говорил людям о том, что занимаюсь искусственным интеллектом, они смеялись и шутили о том, насколько глупы компьютеры. Теперь же, когда ИИ проник во многие сферы нашей жизни, а некоторые даже улучшил, люди обычно говорят: «Вы занимаетесь ИИ? Здорово!». Общий искусственный интеллект тем не менее остается периферийной целью. Если начать подробно интересоваться этой периферией, она может вывести вас к проблеме трансгуманизма. Ею обычно занимаются люди, которые видят в ИИ способ обмануть смерть.

Интересный факт состоит в том, что большинство тех, кто видит в ИИ экзистенциальную угрозу, являются трансгуманистами. Разумеется, это не слишком удивительно. Раз уж вы готовите себя к вечной жизни, то вам однозначно есть что терять, в случае если ИИ соберется стереть человечество с лица земли. Еще более забавно наблюдать за теми, кто с нетерпением ждет появления ИИ, который, по их мнению, поможет им осуществить трансгуманистические мечты, но в то же время боится последствий его создания.

Как же искусственный интеллект может помочь преодолеть смерть? Наши биологические оболочки – не самая надежная вещь. Вирусы и бактериальные инфекции проникают сквозь естественную человеческую защиту. Наша иммунная система сбоит, дает раку завладеть организмом, одержать победу и убить нас. Механизмы восстановления перестают работать, позволяя нам стареть и изнашиваться. После шестидесяти-семидесяти лет мы уже начинаем свой путь на кладбище. Кремний стал бы для нашего разума более достойной оболочкой. Он быстрее, вместительнее и практически не разлагается. К тому же, учитывая, что цифровую информацию можно легко скопировать, мы всегда можем загрузить себя в новую идеальную оболочку.