Получается, что у нейрона множество входов и выходов? Не получается. У нейрона один выход и один вход. А как же множество связей? А так: все входящие сигналы суммируются, и уже в зависимости от суммы нейрон подаёт на выход какой-то новый сигнал. Или не подаёт. Но выходной сигнал у нейрона один, он бежит по одному аксону и одинаковый для всех выходных контактов. А вы как хотели? Чтобы нейрон ещё разбирался, кому и что он отправляет? Нет, это уже дело получателей – блокировать или усиливать входящий сигнал с помощью медиаторов.
Ну хорошо, а зачем вообще нейронам сигналы? Затем, что электрохимические потенциалы – это единственная форма информации (энергии), распространяющейся по сети. Если нейрон как следует потормошить, по его дендритам начинает бежать электрический ток. Точные исследования показывают, что это не постоянное напряжение, а сложная последовательность всплесков. Нейрон буквально верещит, генерируя электрохимические
Но нам не важно, какая форма у нервного сигнала. Важно, что другие нейроны одинаково реагируют на этот сигнал, воспринимая его как (простите за тавтологию) сигнал к действию. То есть напряжение с дендритов нейрона передаётся на аксоны «подконтрольных» нейронов. Аксоны, в свою очередь, получают сигналы от множества нейронов. Все сигналы, попавшие на аксон, суммируются на входе нейрона. И если сумма достаточно большая, то уже новый нейрон начинает верещать.
Теперь немного упростим и немного усложним картину. На рисунке 2.3 для удобства нейрон изображён кружочком. Аксон и дендриты вообще заменены на линии. Этот минималистский стиль активно используется в математической теории нейронных сетей, в схемотехнике, в теории графов… Короче, в любой технической дисциплине, когда нужно отвлечься от деталей и ухватить суть, прочувствовать саму архитектуру сложной системы.
Рис. 2.3.
Мы видим, как несколько, а именно произвольное число
Функция
Рис. 2.4.
Простейший вид функции активации – ступенька. Если число на входе меньше порогового значения
Почему ноль – понятно. Но вот почему именно единица? Почему не корень из двух, почему не минус сто, почему не потенциал ионизации атома водорода? Да потому что сравнивать не с чем. Все нейроны одинаковые. Эталон сигнала мы выбираем сами. Так что мешает положить максимально возможный сигнал равным единице? Ничего не мешает. Вот мы и кладём. Чтобы считать было легче.
А почему, либо ноль, либо единица? А если порог почти-почти преодолён? Или сумма входных сигналов застыла прямо на пороге? Направление вашей мысли понравилось бы любому специалисту по нейронным сетям. Чем дальше в лес, тем более хитрые зависимости выходного сигнала от входного придумывали учёные. Вместо ступеньки теперь часто рисуют «сигмоиду» – такую гладенькую возрастающую выпуклую кривую (рис. 2.5), прижимающуюся к единице по мере возрастания входного сигнала. То есть нейрон как бы верещит, но не громко.
Рис. 2.5.