Типы моделей нейрона
4.8. Cтохастическая модель нейрона.
В стохастической модели выходное состояние нейрона зависит не только от взвешенной суммы входных сигналов, но и от некоторой случайной переменной, значения которой выбираются при каждой реализации из интервала [0,1].
В стохастической модели нейрона, выходной сигнал y принимает значения +1 или -1 с вероятностью
P(y= 1) = 1/(1+exp(-2βu)), 4.33
P(y=-1) = 1/(1+exp(2βu)), 4.34
где u обозначает взвешенную сумму входных сигналов нейрона, а β - положительная константа, которая чаще всего равна 1. Процесс обучения нейрона в стохастической модели состоит из следующих этапов:
1) расчет взвешенной суммы
4.35
для каждого нейрона сети.
2) расчет вероятности P того, что y принимает значение +1 или -1..
3) генерация значения случайной переменной R€ (0,1) и формирование выходного сигнала y, если R<P(y), или –y в противном случае.
При обучении с учителем по правилу Видроу-Хоффа, адаптация весов проводится по формуле
Δwi=αxi(d-y). 4.36
<ДАЛЕЕ> <ТИПЫ НЕЙРОНОВ>
