Hibavisszacsatolás javítási módszer

A hiba-visszacsatolás korrekciós módszere egy sztochasztikus perceptron képzési módszer, amely egynél több réteg változó kapcsolataival való konvergencia biztosításához szükséges. A módszert Rosenblatt javasolta változó SA kapcsolatokkal rendelkező perceptronokhoz, és bináris többrétegű perceptronokhoz használható . Alternatívája a backpropagation módszernek , de vele ellentétben garantálja a konvergencia (megoldás elérését) folyamatát.

Algoritmus

Minden R-elemnél be van állítva a hiba , ahol a szükséges és az elért válasz. $E_{r}=R^{*}-r^{*}$ $R^{*}$ $r^{*}$
Minden A-elem esetében a hiba kiszámítása a következőképpen történik: $a_{i}$
- Az elején ; $E_{i}=0$
- Ha az elem aktív, és a hivatkozás ( vagy általában ) az R-elemnél nem nulla hibával végződik , amely előjelben különbözik a hivatkozás súlyától , akkor valószínűleg -1-gyel egyenlő korrekciót kell hozzáadni; $a_{i}$ $c_{{ir}}$ ${\textstyle c_{{ir}}=a_{i}\cdot w_{{ir}}}$ ${\textstyle c_{{ir}}=f(w_{{ir}},a_{i})}$ $E_{r}$ $w_{{ir}}$ $p_{1}$ $E_{i}$
- Ha az elem inaktív, és a hivatkozás az R-elemnél végződik nem nulla hibával , előjelben nem tér el (egybe) a link súlyától , akkor valószínűleg +1-gyel megegyező korrekciót kell hozzáadni; $a_{i}$ $c_{{ir}}$ $E_{r}$ $w_{{ir}}$ $p_{2}$ $E_{i}$
- Ha az elem inaktív, és a hivatkozás az R-elemnél nem nulla hibával végződik , amely előjelben eltér a hivatkozás súlyától (vagy ), akkor valószínűleg +1-gyel megegyező korrekciót kell hozzáadni; $a_{i}$ $c_{{ir}}$ $E_{r}$ $w_{{ir}}$ $w_{{ir}}=0$ $p_{3}$ $E_{i}$
- Minden más feltétel mellett nem változik. $E_{i}$
Ha , akkor minden A vagy R elemre végződő aktív hivatkozáshoz a jellel egybeeső előjelű javítást adunk , pl. , ahol az abszolút érték (általában egy). $E_{i}\not=0$ $\eta$ $E_{i}$ $\Delta w_{{ij}}=a_{i}^{*}jel(E_{i})\varepsilon$ $\varepsilon$ $\eta$

A legtöbb esetben a legjobb teljesítmény akkor érhető el, ha a valószínűségeket a következő feltétel szerint választjuk meg . ${\displaystyle p_{1}>p_{2}>p_{3))$

Irodalom

Rosenblatt, F. A neurodinamika alapelvei : Perceptronok és az agymechanizmusok elmélete. - M . : Mir, 1965. - 480 p.

Lakhmi C. Jain; NM Martin Neurális hálózatok, fuzzy rendszerek és genetikai algoritmusok fúziója: Ipari alkalmazások. - CRC Press, CRC Press LLC, 1998