4.7. Модель нейрона Хебба

Типы моделей нейронов

<РАНЕЕ>                    <HOME>

4.7.        Модель нейрона Хебба

        Структурная схема нейрона Хебба соответствует стандартной форме модели нейрона. Д.Хебб предложил формальное правило, в котором вес w_i i- го входа нейрона изменяется пропорционально произведению его входного и выходного сигналов:

∆w_i=αx_iy     4.29

,где α€(0,1) - коэффициент обучения.

        При обучении с учителем, вместо выходного сигнала y используется ожидаемая от этого нейрона реакция d. В этом случае, правило Хебба записывается в виде:

∆w_i=αx_id               4.30

        В каждом цикле обучения происходит суммирование текущего значения веса и его приращения ∆w_i:

w_i(t+1)=w_i (t)+Δw_i        4.31

        В результате применения правила Хебба, веса нейрона могут принимать произвольно большие значения. Один из способов стабилизации процесса обучения по правилу Хебба, состоит в учете последнего значения w_i, уменьшенного на коэффициент ͑забывания γ. При этом, правило Хебба представляется в виде

w_i(t+1)= w_i(t)(1-γ)+Δw_i          4.32

        Значение γ выбирается из интервала (0,1) и, чаще всего, составляет некоторый процент от коэффициента обучения α. Рекомендуемые значения коэффициента забывания – γ<0.1, при которых нейрон сохраняет большую часть информации, накопленной в процессе обучения, и получает возможность стабилизировать значения весов на определенном уровне.

<ДАЛЕЕ>