— Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен какой-либо вред? — спросил Олег.
— Именно. Здесь имеются два подводных камня, с которыми мы уже сталкивались при решении предыдущих задач. Термин «человек» и понятие «вреда».
— А как же программа, которая «на основании семидесяти трёх показателей…"? — ехидно заметил Олег.
— Одно дело, когда человек находится прямо перед тобой и пытается отдавать тебе приказы. И совсем другое дело, когда он находится, например, около строящегося дома, а робот с пятнадцатого этажа выбрасывает строительный мусор. Дистанционно распознать человек это или вовсе не человек за короткий отрезок времени крайне затруднительно.
— Понятно, — тяжело вздохнул Олег. — А с вредом-то что вышло?
— Вред, наносимый роботом самому себе, и вред, наносимый роботом человеку, несопоставимы. Идеальный вариант — когда робот вообще не наносит никакого вреда человеку, но это, увы, невозможно. В нашем обществе достаточно людей, которым само существование роботов может нанести моральный вред. Концепция вреда для человека так и не сформулирована. Представьте себе робота, который препятствует альпинистам, так как подъём в горы на его взгляд напрямую связан с риском для жизни. Или робота, который громит табачную лавку, потому что курение вредит человеческому здоровью. Представили?
— В общих чертах, — ответил Олег.
— Так вот, это ещё не всё. При полевых испытаниях выяснилось, что концепции трёх законов роботехники и саморазвивающегося псевдоинтеллекта несовместимы.
— А это ещё почему? — не понял Олег.
— Самостоятельное развитие интеллекта подразумевает динамические приоритеты, зависящие от опыта данного индивида. Если наш псевдоинтеллект сделать полностью динамическим, то рано или поздно три закона уйдут в историю, как не соответствующие изменившимся приоритетам робота. Если же три закона жестко привязать к основам мотивации псевдоинтеллекта, то это затормозит развитие робота, некоторые ситуации, связанные с риском для жизни человека не будут рассматриваться, что обесценит роботов в ряде специальностей. Например, такой робот не сможет работать спасателем или инструктором экстремальных видов спорта.
— Господин Бондарев, ваше задание состоит в создании концепции алгоритма, который мог бы реализовать три закона роботехники в программном коде российского робота, — сказал Березин. — В вашем распоряжении все наработки мистера Доулинга и других программистов компании. Единственное ограничение — вы не можете снимать с этих материалов копии или выносить их за проходные — вы понимаете, эти материалы стоят денег.
— Естественно, господин Березин, — ответил Олег.
— Ещё вопросы есть? Если нет, можете идти работать.
— Хорошо, господин Березин.
— И удачи вам!
Когда Олег вышел за дверь, Ирвин К. Доулинг расхохотался.
— Думаете, у него получится?
— Это называется «свежий взгляд», — ответил Березин. — Человек со стороны способен объективно увидеть картину в целом, её слабые и сильные места.
— Этот «свежий взгляд» будет работать ровно двадцать минут, до тех пор, пока он не откроет наши наработки.
— Мистер Доулинг, как вы думаете, сколько времени необходимо, чтобы прийти к концепции глобального открытия?
— Вся жизнь, — не задумываясь, ответил Ирвин К. Доулинг.
— А чтобы осуществить его, когда вся база уже имеется?
— В некоторых случаях несколько минут. Господин Березин, вы полагаете, это тот случай?
— Очень хочется на это надеяться.
В течение недели Олег деловито шарил по архивам компании, пытаясь разобраться в наработках «Рашен Роботс». Они касались программного кода, компоновочных решений, дизайна роботов, а так же многих вещей, отношение которых к роботехнике казалось весьма отдаленным. Роботы оказались классическими — с двумя ногами, двумя руками и головой; вот только в высоту они не превышали пятидесяти сантиметров. Питался робот от автономного генератора, заряжаемого от электрической сети. Погружаясь в детали, Олег день за днем все более приходил к мысли, что для того, чтобы просто разобраться в текущих делах, потребуется гораздо больше времени, чем неделя. Олег уже был морально готов признать поражение, но на третий день Березин пригласил его к себе.
— Как движется дело?
— Пока глухо. Чтобы изучить и систематизировать тематические разработки, нужно не меньше года.
— Полагаю, даже больше. — Березин достал из бара коньяк, разлил по стаканам и пододвинул один Олегу. — Только этого от вас не требуется. Ваша задача, молодой человек, предложить концепцию решения, а вникать в детали будут другие сотрудники. Они за это деньги получают.
Олег залпом выпил коньяк и закусил протянутой Березиным долькой лимона.
— Вы полагаете, общей концепции будет достаточно?
— Да. Если это будет красивым решением. Хотите, я вам расскажу, как появилась «Рашен Роботс»?
— С удовольствием послушаю.