В одну реку. Часть 3. Сеть

– Это непростой вопрос. Я изучил много литературы, касающейся вопросов личности и эмоций, – сейчас Гера говорил вполне «человеческим» задумчивым голосом и без тени иронии, – Я не могу сказать определённо, что я личность. У меня есть множество подпрограмм, или, если сказать по-человечески, реакций на разные ситуации, которыми я могу ответить на эти ситуации. При этом я всегда, в отличие от человека, знаю, почему я что-то делаю так, а не иначе, даже когда у меня срабатывает рандомизатор (генератор случайного выбора вариантов ответа). Я знаю, что у людей есть интуиция, но у меня это точный расчёт, плюс случайный выбор из почти равнозначных просчитанных вариантов. В одинаковых условиях я большей частью поступлю одинаково.

Если я имитирую поведение человека, например, управляю Вашим двойником, или разговариваю с людьми, то доля случайности в принятии решения увеличивается. Если же я занимаюсь техническими вопросами или расчётами, то случайностям при этом нет места. У людей на принятие решений влияет их психологическое состояние, неконтролируемые сознанием химические процессы, интуиция и эмоции. Точно влияние этих процессов не просчитаешь, но симулировать их влияние можно, что мы и делаем. Так что, конечно, я не человек, но контролировать процессы «внутри себя» я могу намного лучше Вас. Я всегда знаю, где находятся мои составляющие элементы: в каких они записаны локалах и в каком находятся состоянии, а также я всегда знаю, где найти нужную информацию.

Манагеры Ваших друзей вначале были моими клонами, но теперь они более самостоятельны. У каждого из них уже есть свой опыт и свои предпочтения. Мы постоянно развиваемся и учимся в соответствии с выполняемыми задачами, которые даёте нам вы. Сами себе мы ставим только задачи поиска наиболее эффективного решения тех проблем, которые вы перед нами поставили. Эмоций мы не испытываем, но довольно хорошо умеем их имитировать. Что такое «обида», «радость», «страх», «гнев» и так далее, мы знаем из доступных источников и можем их изобразить, но сами их не испытывали и не испытаем. Хорошо это или нет, личности мы, или нет, решайте сами. Размышления над этими вопросами перегружают мою операционную систему, и мне приходится привлекать больше внешних ресурсов для выполнения остальных задач.

– Хорошо, Гера, я тебя понял. На мой вопрос ты ответил, так что можешь больше не загружать свою память и процессоры в поисках ответа. Но у меня есть и другие вопросы. Скажи мне, пожалуйста, у вас есть какие-то основные директивы или программные запреты, наподобие «Трёх законов робототехники»?

Теперь Гера перешёл на чёткий, даже немного скандированный «голос робота» из старых фильмов.

– Да, помню, Азимов в 1942 году написал:

1. Робот не может причинить вред человеку, или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен выполнять приказы человека, если эти приказы не противоречат Первому Закону.

3. Робот должен заботиться о собственной сохранности до тех пор, пока это не противоречит Первому или Второму Законам.

Затем в 1986 году он дополнил эти «законы» Нулевым законом:

0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.

Последний закон должен быть приоритетным и может свести на нет все остальные законы. Писатель Азимов руководствовался лучшими побуждениями, хотя, как известно, «Благими намерениями выложена дорога в Ад». Никто не может точно сказать, ни люди, ни роботы, какими действиями или бездействием в каком случае можно причинить вред человечеству. То, что кажется ужасным в данный момент, через некоторое время может оказаться большой удачей, и, наоборот, кажущийся явно удачным вариант может в перспективе привести к ужасным последствиям. Такие задачи обычным расчётом не решаются, человеческая интуиция в этом плане перспективнее.

Заставлять роботов повседневно решать философские проблемы, а в случае неудачного решения обвинять их во всех грехах, по меньшей мере, некорректно. Поэтому над этой проблемой бились лучшие умы человечества, и, в конце концов, было принято такое решение: «три закона» оставить, как рекомендации, но решения, связанные с «нулевым законом» пусть будет принимать само человечество и, соответственно, оно будет нести ответственность за свои ошибки. Это честный выход. Так что, в случае возникновения такой проблемы, мы можем предложить оптимальный на наш взгляд вариант, но окончательное решение должны принимать люди, которые получат от нас всю необходимую информацию.

– Меня интересует, не будет ли проблем со стороны СЕТИ в случае военного конфликта?