Аргус (СИ)

  - Аргус - продвинутая самообучающаяся программа, способная менять свои алгоритмы. Теоретически, она должна подстраиваться под изменение условий руководствуясь максимальной пользой для человечества. Но ты прав - Джеймс вздохнул - оставлять эту систему без контроля не стоило. Впрочем, мы и не собирались. И знаешь, кто именно должен был быть тем самым большим начальником, который будет заставлять Аргуса исправлять свои ошибки? Ты!

  Я? - переспроси Майкл иронично изогнув бровь - Какая неожиданная новость.

  - Да, ты. Но, разумеется, не только ты. Все вы - люди, подключенные к Аргусу. Аргус формирует законы - правила, по которым должны жить люди и за нарушение которых он штрафует, уменьшая время вирта. Кроме того, он периодически изменяет свои собственные алгоритмы поведения. Однако любое правило по которому Аргус оценивает действия людей может быть отменено, любой его алгоритм может быть изменен. Для этого необходимо, чтобы значительное количество людей посчитали действия Аргуса неправильными.

  - И сколько людей должны так посчитать чтобы Аргус что-то изменил?

  - Это зависит от приоритета алгоритма... Кроме того, разная степень недовольства вызывает разные изменения - если многие недовольны законом настолько, что начинают его сознательно игнорировать, даже несмотря на штраф, то он может быть полностью отменен, если им недовольно не очень много народу, или если недовольство слабое, то закон может быть просто пересмотрен с использованием больших вычислительных мощностей. В таком случае он может быть как отменен, так и оставлен в прежнем виде, ну или с некоторыми изменениями.

  - Тогда много ли законов Аргус отменил из-за недовольства людей?

  - Полностью отмененных законов практически не было. Несколько законов были пересмотрены и изменены, но это было очень давно. За последние же сто лет ни один закон не был пересмотрен. - Сказал Джеймс - Понимаешь, при создании Аргуса мы сделали несколько серьезных ошибок. Просто не учли некоторых особенностей человеческой психики. По этому контроль созданного нами искусственного интеллекта со стороны общества работал не слишком эффективно. А уж когда Аргус увеличил стимуляцию центров удовольствия при вирте, то с этим все стало совсем печально...

  - Подожди, то есть я правильно понимаю, что предусмотренные способы контроля Аргуса просто не работают, и наше общество управляется лишь не самым удачным искусственным интеллектом, который порой принимает решения, глупость которых очевидна даже последнему идиоту? Как-то это не слишком оптимистично. Будто все мы - пассажиры в несущемся во весь опор автомобиле. Которым никто не управляет, кроме неисправного автопилота, а впереди уже виднеется обрыв.