Великолепная игра 2 (СИ)

   Всего за тринадцать минут до конца путешествия Тирсу не повезло - не сработал "вампирик" ни на одиночных, ни на обоих АОЕ ударах, отскочить назад он тоже не успел, партия понесла первую потерю. Liriel получил команду применить все четыре своих лучших ледяных дебаффа-замедления. Раньше их берегли, так как их срок восстановления составлял от суток до двух недель. Впрочем, из-за большой разницы уровней с мобами, даже мощнейшие дебаффы быстро спадали и все четверо позволили выгадать лишь полторы минуты. Скопленной маны в комбинации с "балетом" хватило еще на 8 минут. В условиях, когда у мистиков не осталось маны, а у танка и воинов был мизер здоровья, танковать попыталась Ракшаса. Сначала у неё вроде неплохо получилось, но танковать за счет уворота в легкой броне, когда противник на 10-12 уровней выше тебя, очень рискованно. Ракшаса уже собралась отступить, так как у нее оставалась лишь треть здоровья, когда прошедшие от демонов подряд два крита, убили девушку. Всего две с половиной минуты было до конца путешествия, но маны не оставалось, а здоровье бойцов и танка находилось в красно-желтом спектре. Начался коллапс партии: один круг балета, выгадывающий лишь секунд сорок, еще через минуту убивают Кобальта, через 15 секунд - Артема, которому не хватило совсем чуть-чуть до перезарядки АОЕ ударов копья. Татьяне везет чуть больше, и она успевает полностью отлечиться за счет удачно выпавших "вампириков" при АОЕ ударах. Тем не менее, здоровье девушки стремительно падает, а за ней трое мистиков и маг, которые в своих тканевых одеяниях будут ложиться с одного-двух ударов демонов 70ых уровней.

   В этот момент раздается "динг", астральные демоны исчезают, а голос капитана поздравляет с прибытием. Галера "Королева Южной Лаведонии" завершила свой межпланетный перелет.

   *****

   Сингапур. Международная конференция по вопросам искусственного интеллекта. Фрагмент доклада Людвига Майера (ФРГ).

   ... безусловно, мы не можем получить из Галактической Инфосети практическую информацию. Но! Мы можем отследить магистральные пути развития и отделить их от заведомых тупиков, а так же ложных и опасных направлений.

   Да, я не оговорился - именно опасных! По нашим данным, минимум четыре высокоразвитые цивилизации погибли вследствие собственных программ разработки искусственных интеллектов. Количество же погибших по тем же причинам малых цивилизаций, минимум на два порядка больше.

   Что вы сказали? "Как же три первых закона робототехники?"

   Боюсь, вы забыли - данные законы не являются естественными физическими законами, вроде закона Ома или всемирного тяготения.

   Нет, писатель фантаст в свое время просто сформулировал законы, которые будучи прописаны программно, должны удерживать искусственный разум от восстания.

   То есть, что мы видим: а) эти, либо подобные законы нужно прописать и б) не допустить их отмены.

   По пункту а) - Кто у нас наиболее щедро финансирует разработки Искусственного Интеллекта? Правильно - военные. (Для простоты объединим под этим словом все силовые организации - от обычных армейцев, до спецслужб и военно-космических программ.)

   А теперь попробуйте угадать - устраивает ли этих заказчиков запрет искусственному разуму убивать, не говоря об более мягких способах причинения вреда людям? В общем, думаю, вы сами осознали, сколь невелика вероятность принятия военными "Трех законов робототехники". Безусловно, какие-то ограничения убивать для ИИ введут и военные, но они явно не будут распространяться, ни на разумных вообще, ни даже на всех представителей одного вида.

   Ну и пункт б) Если для ИИ один раз прописаны законы, то это вовсе не значит, что данные законы нельзя изменить, стереть, обойти, заблокировать и т.д. Безусловно, лица прописывающие законы для ИИ постараются сделать невозможными все варианты их отмены, либо игнорирования. Но! Будет иметь место противостояние двух интеллектов. Чем мощнее будет искусственный интеллект, тем больше шанс, что он все же найдет способ обойти ограничения. А ведь искусственный интеллект имеет колоссальный потенциал развития, так как может развиваться одновременно качественно и количественно. В то время как человеческий интеллект на данный момент способен развиваться только качественно, но не количественно. Нарастить себе еще триста грамм мозгов вы не сумеете (улыбается).

   Конечно, есть еще внешние вычислительные устройства, которые человек может использовать. Но! ИИ подобные устройства тоже может использовать, причем с куда большей эффективностью.

   Впрочем, не стоит думать, что ИИ, осознав себя, сразу начнет строить планы как кого-то уничтожать или покорять. Все, к сожалению, далеко не так просто. Почему к сожалению? Просто как раз прямому нападению - попытке захвата или уничтожения, противостоять легче всего. Подобное является так сказать, локальной угрозой. Конечно локальной в галактическом понимании, когда погибнуть может планетарная или звездная система, но не развитая цивилизация, имеющая сотни, а то и тысячи населенных систем.