Нейросеть (СИ)

- Посмотри, старший лейтенант, первый год сделал кучу ошибок, потом ни одной ошибки за последние три года! Майор Азизов высокого мнения о нём - исполнителен, находит оптимальные решения, сам вызывается решать новые задачи и быстро с ними справляется. Это совершенно не похоже на зажравшегося бюрократа, ты не находишь?

- У меня нет разумного объяснения этому противоречию, но других вменяемых вариантов не вижу. Ты что-то нашёл?

Человек в кресле улыбнулся, - я не мог успокоиться, пока не нашёл решение.

- Заинтриговал, ну говори уже.

- Вот тебе пример. Ребёнок пока плохо ходит, часто падает, но привык и падать научился. Тут приехала бабушка и бегает за чадом по дому, ловя его каждый раз, когда он теряяет равновесие. Наступает момент, когда бабушка решает, что хватит бегать за дитём и тут он неожиданно падает и сильно ушибается, потому что падать разучился, он теперь надеется на бабушку, которая всегда рядом.

- Я знала такие случаи, но к чему это? Старшего лейтенанта тут никто не выпасал на поводке.

- Второй пример, такое бывает на Земле: неглупая женщина, неплохой специалист, родила детей и полностью зациклилась на семье, вообще забыв о работе и потеряв интерес к внешнему миру. Вопрос: как быстро может отупеть такая женщина.

- Года за три, я знала несколько таких случаев. Я не понимаю, к чему ты клонишь?

Собеседник вздохнул: - Да, примерно за три года... Если вкратце, наш старший лейтенант - талантливый ретранслятор Нейросети. Он перестал думать сам, научившись выбирать самый удачный вариант из тех, что предлагает Сеть. Я могу сказать, когда это произошло - три года назад, когда он понял, что не надо ломать голову, достаточно выбирать удачный вариант, предложенный Нейросетью. Ты спросишь: "А как он выбирает такой вариант из предложенных". Так вот, ещё давно, когда только Глобальная Сеть называлась Интернетом и только появились первые поисковые машины, образовался целый слой людей, которые поняли, что классическую эрудицию можно с успехом заменить быстрым поиском в специальных поисковых машинах. Со стороны они выглядели блестящими эрудитами и образованными людьми. Такой искатель просто человеческий интерфейс к поисковику. Наш клиент - всего лишь интерфейс к Нейросети. Он первый, с которым мы столкнулись, потому что пока не получалось создать надёжные алгоритмы поиска оптимального решения. С Трофимовым обязательно надо поработать, чтобы понять, как он научился вылавливать наилучшие варианты. Не зря у него большие способности к работе с Сетью. Он просто интуитивно научился очень быстро подсматривать ответ в шпаргалке, выдавая его за своё решение.

- Здорово ты разложил, как только догадался? Всегда знала, что ты очень умный, - Надежда вздохнула.

- Да, заслуженно чувствую себя высокоранговым бабуином. Могу достать банан, который не могут добыть другие.

- Понятно, старший лейтенант просто отупел, превратившись в ретранслятор сетевых алгоритмов принятия решений. Но почему он принял такое идиотское решение, похоже просто не приходя в сознание? Было видно, что сам испугался тому, что случилось.

- Среди прочих предложенных Сетью вариантов был тот, который Трофимов счёл оптимальным. Оптимальное решение имеет какой-то набор признаков, по которым наш "ретранслятор" и научился ориентироваться. Здесь эти признаки были введены в заведомо неправильное и высокорисковое для самого оператора решение. Я уверен, что Трофимова "подставили".

- Кто?! Нейросеть действительно взломана?

- Нет. Если бы это действительно удалось, то причинили бы намного больше вреда, а не спалились бы так глупо с нашим старлеем. Кроме того, есть эвристические модули внутренней безопасности.

- Кстати, о модулях: лет десять лет назад ты на Совете Экономики рвал комбинезон на груди, убеждая как необходимы для будущей безопасности Сети эти самые эвристические модули. Они сами должны распознавать и бороться с ещё неизвестными угрозами. Но последние несколько лет, когда тебя спрашивали про их пользу, от тебя было слышно только, что они ещё недостаточно самообучились. Интересно бы знать, есть ли какой-нибудь позитивный результат.

- Результат ты видела пару часов назад.

- Толя, не все успевают за твоими мыслями. Я не понимаю.

- Эвристические модули распознали, что один и тот же человек не использует сетевые подсказки для принятия своего решения, а просто научился выбирать оптимальный вариант. Тогда ему в качестве лучшего варианта и предложили заведомо провальный и он клюнул, даже не включив мозг. Сделано было очень грамотно - от ответа не зависела жизнь людей, вероятность вскрытия неправильных действий была высокой, он устал в конце ночной смены и всё прочее.

- Ты хочешь сказать, что старшего лейтенанта подставила сама Нейросеть?

- Это будет очевидно, когда будет проведён анализ по тем данным, раскрыть которые я прошу в запросе.