На представленном ниже рисунке 1а представлена модель биологического нейрона. Он состоит из
Когда человек получает новую информацию, то в отдельном участке мозга веса некоторых синапсов меняются и, соответственно, меняется поведение нейронов мозга. Таким образом, при решении какой-нибудь конкретной задачи, в мозгу задействуются соответствующие нейроны, возбуждаемые синапсами, подстроенными под поиск решения. Чем чаще человек сталкивается с задачами одного класса, тем более устойчивыми становятся веса синапсов и меньше времени требуется для поиска решения.
Рисунок lb. Модель искусственного нейрона
синапсы |
---|
дендритыРисунок 1а. Модель биологического нейрона |
Математическая формализация биологического нейрона была предложена в середине 50-х годов прошлого века. Модель искусственного нейрона задается в виде скалярной функции векторного аргумента.
На рисунке lb представлена модель нейрона с тремя входами (дендритами), синапсы которых имеют веса
Выше уже говорилось, что если суммарный импульс превышает некоторый порог, то тогда нейрон преобразует его с помощью некоторой передаточной (активационной) функции
При разработке нейронных сетей для решаемой нами задачи мы использовали именно сигмоид, поскольку эта функция обладает свойством усиливать слабые сигналы и тем самым предотвращает насыщение от больших сигналов, которые соответствуют тем областям аргумента, где сигмоид имеет пологий наклон.
Выходное значение сигмоида лежит в интервале (0; 1), а область чувствительности для входов чуть шире интервала (-1;1). Поскольку при решении реальных задач приходится иметь дело с различными значениями, то для подачи данных на вход сети используются алгоритмы шкалирования данных (к примеру, алгоритм минимакса). Такие алгоритмы, используемые на этапе предварительной обработки данных, называются
Существует множество различных алгоритмов обучения нейронных сетей, однако наиболее часто используется алгоритм обратного распространения ошибки
Подробное описание алгоритма обратного распространения ошибки приводится в книге «Искусственные нейронные сети» (Круглов, Борисов (2002)).
2. Эволюционные вычисления, т.е. автономное и адаптивное поведение компьютерных приложений. Прежде всего, эта отрасль затрагивает аспекты самовосстановления и самоконфигурирования сложных систем, состоящих из одновременно функционирующих модулей. Помимо этого, к эволюционным вычислениям относятся автономные агенты, несущие в себе функции электронного секретаря, ассистента, отбирающего нужные сведения в Интернете и т.д.
Примером такого агента может быть свободно распространяемая программа, разработанная фирмой GATOR (\v\v\v. gator, com). хотя мнения ее пользователей неоднозначно. Многие фирмы называют GATOR «сетевым паразитом», поскольку ее агент, следя за предпочтениями пользователя Интернет, навязывает ему посещение сайтов со смежной тематикой и тем самым наносит финансовый ущерб, поскольку уводят пользователя к конкуренту. Однако быстрый и хаотичный рост Web-пространства, несомненно, приведет к появлению интеллектуальных автономных агентов нового поколения, способных к самообучению, взаимодействию с себе подобными и проявляющим самостоятельность при принятии решений. Однако отношение общества к таким «работникам» пока трудно предсказать.