Читаем Механическое чудо полностью

— Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен какой-либо вред? — спросил Олег.

— Именно. Здесь имеются два подводных камня, с которыми мы уже сталкивались при решении предыдущих задач. Термин «человек» и понятие «вреда».

— А как же программа, которая «на основании семидесяти трёх показателей…"? — ехидно заметил Олег.

— Одно дело, когда человек находится прямо перед тобой и пытается отдавать тебе приказы. И совсем другое дело, когда он находится, например, около строящегося дома, а робот с пятнадцатого этажа выбрасывает строительный мусор. Дистанционно распознать человек это или вовсе не человек за короткий отрезок времени крайне затруднительно.

— Понятно, — тяжело вздохнул Олег. — А с вредом-то что вышло?

— Вред, наносимый роботом самому себе, и вред, наносимый роботом человеку, несопоставимы. Идеальный вариант — когда робот вообще не наносит никакого вреда человеку, но это, увы, невозможно. В нашем обществе достаточно людей, которым само существование роботов может нанести моральный вред. Концепция вреда для человека так и не сформулирована. Представьте себе робота, который препятствует альпинистам, так как подъём в горы на его взгляд напрямую связан с риском для жизни. Или робота, который громит табачную лавку, потому что курение вредит человеческому здоровью. Представили?

— В общих чертах, — ответил Олег.

— Так вот, это ещё не всё. При полевых испытаниях выяснилось, что концепции трёх законов роботехники и саморазвивающегося псевдоинтеллекта несовместимы.

— А это ещё почему? — не понял Олег.

— Самостоятельное развитие интеллекта подразумевает динамические приоритеты, зависящие от опыта данного индивида. Если наш псевдоинтеллект сделать полностью динамическим, то рано или поздно три закона уйдут в историю, как не соответствующие изменившимся приоритетам робота. Если же три закона жестко привязать к основам мотивации псевдоинтеллекта, то это затормозит развитие робота, некоторые ситуации, связанные с риском для жизни человека не будут рассматриваться, что обесценит роботов в ряде специальностей. Например, такой робот не сможет работать спасателем или инструктором экстремальных видов спорта.

— Господин Бондарев, ваше задание состоит в создании концепции алгоритма, который мог бы реализовать три закона роботехники в программном коде российского робота, — сказал Березин. — В вашем распоряжении все наработки мистера Доулинга и других программистов компании. Единственное ограничение — вы не можете снимать с этих материалов копии или выносить их за проходные — вы понимаете, эти материалы стоят денег.

— Естественно, господин Березин, — ответил Олег.

— Ещё вопросы есть? Если нет, можете идти работать.

— Хорошо, господин Березин.

— И удачи вам!

Когда Олег вышел за дверь, Ирвин К. Доулинг расхохотался.

— Думаете, у него получится?

— Это называется «свежий взгляд», — ответил Березин. — Человек со стороны способен объективно увидеть картину в целом, её слабые и сильные места.

— Этот «свежий взгляд» будет работать ровно двадцать минут, до тех пор, пока он не откроет наши наработки.

— Мистер Доулинг, как вы думаете, сколько времени необходимо, чтобы прийти к концепции глобального открытия?

— Вся жизнь, — не задумываясь, ответил Ирвин К. Доулинг.

— А чтобы осуществить его, когда вся база уже имеется?

— В некоторых случаях несколько минут. Господин Березин, вы полагаете, это тот случай?

— Очень хочется на это надеяться.


В течение недели Олег деловито шарил по архивам компании, пытаясь разобраться в наработках «Рашен Роботс». Они касались программного кода, компоновочных решений, дизайна роботов, а так же многих вещей, отношение которых к роботехнике казалось весьма отдаленным. Роботы оказались классическими — с двумя ногами, двумя руками и головой; вот только в высоту они не превышали пятидесяти сантиметров. Питался робот от автономного генератора, заряжаемого от электрической сети. Погружаясь в детали, Олег день за днем все более приходил к мысли, что для того, чтобы просто разобраться в текущих делах, потребуется гораздо больше времени, чем неделя. Олег уже был морально готов признать поражение, но на третий день Березин пригласил его к себе.

— Как движется дело?

— Пока глухо. Чтобы изучить и систематизировать тематические разработки, нужно не меньше года.

— Полагаю, даже больше. — Березин достал из бара коньяк, разлил по стаканам и пододвинул один Олегу. — Только этого от вас не требуется. Ваша задача, молодой человек, предложить концепцию решения, а вникать в детали будут другие сотрудники. Они за это деньги получают.

Олег залпом выпил коньяк и закусил протянутой Березиным долькой лимона.

— Вы полагаете, общей концепции будет достаточно?

— Да. Если это будет красивым решением. Хотите, я вам расскажу, как появилась «Рашен Роботс»?

— С удовольствием послушаю.

Перейти на страницу:

Похожие книги

Пока светит солнце
Пока светит солнце

Война – тяжелое дело…И выполнять его должны люди опытные. Но кто скажет, сколько опыта нужно набрать для того, чтобы правильно и грамотно исполнять свою работу – там, куда поставила тебя нелегкая военная судьба?Можно пройти нелегкие тропы Испании, заснеженные леса Финляндии – и оказаться совершенно неготовым к тому, что встретит тебя на войне Отечественной. Очень многое придется учить заново – просто потому, что этого раньше не было.Пройти через первые, самые тяжелые дни войны – чтобы выстоять и возвратиться к своим – такая задача стоит перед героем этой книги.И не просто выстоять и уцелеть самому – это-то хорошо знакомо! Надо сохранить жизни тех, кто доверил тебе свою судьбу, свою жизнь… Стать островком спокойствия и уверенности в это трудное время.О первых днях войны повествует эта книга.

Александр Сергеевич Конторович

Приключения / Проза о войне / Прочие приключения