Hamming Neurális Hálózat

Az oldal jelenlegi verzióját még nem ellenőrizték tapasztalt közreműködők, és jelentősen eltérhet a 2019. augusztus 2-án felülvizsgált verziótól ; az ellenőrzéshez 1 szerkesztés szükséges .

A Hamming-neurális hálózat egyfajta neurális hálózat , amelyet bináris vektorok osztályozására használnak, és amelynek fő kritériuma a Hamming-távolság . Ez a Hopfield neurális hálózat fejlesztése .

A hálózat segítségével korrelálják a bináris vektort , ahol , az egyik referencia képpel (minden osztálynak saját képe van), vagy annak eldöntésére, hogy a vektor nem felel meg egyik szabványnak sem. A Hopfield hálózattal ellentétben nem magát a mintát adja ki, hanem annak számát. $x=(x_{1},x_{2},x_{3},...,x_{m})$ ${\displaystyle x_{i}=\{-1,1\))$

A hálózatot Richard Lippmann javasolta 1987-ben. Speciális heteroasszociatív tárolóeszközként helyezték el. [egy]

Építészet

A Hamming-hálózat egy háromrétegű, visszacsatolásos neurális hálózat. A második és harmadik rétegben lévő neuronok száma megegyezik az osztályozási osztályok számával. A második réteg neuronjainak szinapszisai a hálózat minden bemenetéhez, a harmadik réteg neuronjai negatív kapcsolatokkal kapcsolódnak egymáshoz, kivéve az egyes neuronok saját axonjához kapcsolódó szinapszisokat - ennek pozitív visszacsatolása van.

Hálózati képzés

Az első réteg súlyegyütthatóinak mátrixát az as referenciaképek mátrixából kapjuk , ahol a referenciaképek mátrixa egy mátrix , amelynek minden sora a megfelelő referencia bináris vektor. Az aktiválási funkciót a következőképpen határozzuk meg $x$ $w_{ij}={\dfrac {x_{ij}}{2}}$ $K\times M$ $f(s)=\left\{{\begin{mátrix}0,&s\leqslant 0,\\s,&0<s\leqslant T;\\T,&s>T\\\end{mátrix} }\jobb.$

ahol $T={\dfrac {M}{2))$

A második réteg súlymátrixának mérete , és a következőképpen van meghatározva $K\times K$

{\begin{bmatrix}1&-\epsilon &\cdots &-\epsilon \\-\epsilon &1&\cdots &-\epsilon \\\cdots &\cdots &\cdots &\cdots \\-\epsilon &-\epsilon &\cdots &1\end{bmatrix}},

ahol $\epsilon \in (0,{\dfrac {1}{K}}]$

Így a képzés egy ciklusban történik.

Hálózati működés

Az osztályozott vektor bemenetként kerül megadásra . Az első rétegben lévő neuronok állapotát a következőképpen számítjuk ki . Az első rétegben lévő neuronok kimenetét az állapot aktiválási függvényének alkalmazásával kapjuk meg, és ez lesz a második réteg megfelelő neuronjainak kezdeti értéke. Továbbá a második réteg neuronjainak állapotát az előző állapotukból kapjuk meg, a második réteg súlyegyütthatóinak mátrixa alapján, és az eljárást iteratívan ismételjük, amíg a második réteg állapotvektora stabilizálódik - a két egymást követő iteráció vektorai közötti különbség egy bizonyos értéknél kisebb lesz (a gyakorlatban 0,1 nagyságrendű értékek). ${\displaystyle {\vec {x^{*))))$ $s_{1j}=w_{ji}x_{i}^{*}$ $E_{{max}}$

Ha végül az egyik vektor pozitív, a többi pedig negatív, akkor megfelelő mintára mutat. Ha több vektor pozitív, és ugyanakkor egyik sem haladja meg a -t , akkor ez azt jelenti, hogy a neurális hálózat nem tudja egyik osztályhoz sem rendelni a bejövő vektort, azonban a pozitív kimenetek a leginkább hasonló standardokat jelzik. $E_{{max}}$

Példák

A hálózat használható a csak fekete-fehér képpontokból álló képek felismerésére, például egy borítékkódbélyegzőre írt indexre .

Jegyzetek

↑ Lipmann Richárd. 1987. Bevezetés a neurális hálókkal végzett számítástechnikába. IEEE Assp magazin

Irodalom

Vlagyimir Golovko. Neurális hálózatok. Képzés, szervezés és jelentkezés. 4. könyv - M . : IPRZhR, 2001. - 256 p.
Osovsky S. Neurális hálózatok információfeldolgozáshoz. - M. : Pénzügy és statisztika, 2002. - 344 p.

A mesterséges neurális hálózatok típusai

Feed-forward hálózat ( radiális alapú funkciók hálózata )
Egyrétegű perceptron
Többrétegű perceptron ( Rosenblatt • Rumelhart )
Hopfield hálózat
Markov lánc
Boltzmann gép
Limitált Boltzmann gép
Autoencoder ( Zajtalanító autoencoder • Ritka autoencoder • Változatos autoencoder )
A bizalom mély hálója
Konvolúciós Neurális Hálózat
Mély konvolúciós neurális hálózat
Telepítési neurális hálózat
Mély konvolúciós inverz grafikus hálózat
Generatív ellenséges hálózat
Ismétlődő neurális hálózat
Rekurzív neurális hálózatok
hosszú távú rövid távú memória
Ellenőrzött visszatérő blokk
Neurális Turing-gépek
Kétirányú hálózat ( Bidirectional recurrent neural network • Kétirányú hálózat hosszú távú memóriával • Kétirányú vezérelt visszatérő neuronok )
Deep Residual Network
Neurális visszhanghálózat
Extrém tanulási módszer
Az instabil állapotok módszere
Támogatja a vektoros gépet
Kohonen hálózat
Kohonen önszerveződő térképe
Kapszula neurális hálózat
Asszociatív memória neurális hálózatokon

Gépi tanulás és adatbányászat
Feladatok	Osztályozási probléma Tanulás tanár nélkül Tanár által segített tanulás Regresszió analízis AutoML Egyesületi szabályzat Funkció kivonás Tulajdonságok képzése Rangsorképzés Nyelvtani levezetés Online tanulás
Tanulás tanárral	k-legközelebbi szomszéd módszer Naiv Bayes osztályozó döntési fa Támogatja a vektoros gépet Lineáris regresszió Logisztikus regresszió perceptron Modellek együttesei Zsákolás fellendítése véletlenszerű erdő Releváns vektoros módszer
klaszteranalízis	k-közép módszer Fuzzy klaszterezési módszer Hierarchikus klaszterezés EM algoritmus NYÍR GYÓGYMÓD DBSCAN OPTIKA Átlageltolás
Dimenziócsökkentés	Faktoranalízis Főkomponens módszer CCA ICA LDA Nem negatív mátrix kiterjesztése t-SNE
Strukturális előrejelzés	Grafikon valószínűségi modell Bayesi hálózat Rejtett Markov-modell CRF
Anomália észlelése	k-legközelebbi szomszéd módszer Helyi kibocsátási szint
Grafikon valószínűségi modellek	Bayesi hálózat Markov hálózat Rejtett Markov-modell
Neurális hálózatok	Limitált Boltzmann gép önszerveződő térkép Aktiválási funkció Szigma alakú softmax Radiális bázisfüggvény Hátsó szaporítási módszer Mély tanulás Többrétegű perceptron Ismétlődő neurális hálózat hosszú távú rövid távú memória Ellenőrzött visszatérő blokk Konvolúciós Neurális Hálózat U-Net Autoencoder
Megerősítő tanulás	Markov folyamat Bellman egyenlet Mohó algoritmus Q-learning SARSA Időbeli különbség (TD)
Elmélet	Vapnik-Chervonenkis elmélet Elfogultság-diszperziós dilemma Számítógépes tanuláselmélet Empirikus kockázatminimalizálás Occam tanul PAC tanulás Statisztikai tanuláselmélet
Folyóiratok és konferenciák	NeurIPS ICML ML JMLR ArXiv:cs.LG