Radiális bázisfüggvény

Az oldal jelenlegi verzióját még nem ellenőrizték tapasztalt közreműködők, és jelentősen eltérhet a 2021. június 2-án felülvizsgált verziótól ; az ellenőrzéshez 1 szerkesztés szükséges .

A radiális bázisfüggvény ( RBF ) azonos típusú radiális függvények halmazából származó függvény, amelyet aktiválási függvényként használnak egy mesterséges neurális hálózat egyik rétegében vagy más módon, a kontextustól függően. Radiális függvény minden olyan valós függvény , amelynek értéke csak az origótól való távolságtól vagy egy másik, középpontnak nevezett pont távolságától függ : . A norma általában az euklideszi távolság , bár más mérőszámok is használhatók . $\phi \left(\mathbf {x} \right)=\phi \left(\left\|\mathbf {x} \right\|\right)$ ${\mathbf {c}}$ $\phi \left(\mathbf {x} ,\mathbf {c} \right)=\phi \left(\left\|\mathbf {x} -\mathbf {c} \right\|\right)$

Radiális bázisfüggvények lineáris kombinációi is használhatók egy adott függvény közelítésére . A közelítés a neurális hálózat legegyszerűbb fajtájaként értelmezhető ; ebben az összefüggésben a radiális bázisfüggvényeket először David Broomhead és David Lowe határozta meg 1988-ban [1] [2] Michael Powell 1977-es alapműve [3] [4] [5] alapján .

A radiális bázisfüggvényeket kernelként is használják a támogató vektoros gépekben . [6]

Faj

Az általánosan használt radiális bázisfüggvények a következők: $r=\left\|\mathbf {x} -\mathbf {x} _{i}\right\|$

Gauss-függvény : $\phi \left(r\right)=e^{-\left(\varepsilon r\right)^{2))$
Többnégyzetes: ${\displaystyle \phi \left(r\right)={\sqrt {1+\left(\varepsilon r\right)^{2))))$
Inverz másodfokú: ${\displaystyle \phi \left(r\right)={\dfrac {1}{1+\left(\varepsilon r\right)^{2))))$
Inverz multikvadratikus: $\phi \left(r\right)={\dfrac {1}{\sqrt {1+\left(\varepsilon r\right)^{2))))$
Poliharmonikus spline : ${\begin{aligned}\phi \left(r\right)&=r^{k},&k&=1,3,5,\dotsc \\\phi \left(r\right)&=r ^{k}\ln \left(r\right),&k&=2,4,6,\dotsc \end{igazított}}$
Vékony lemezes spline (speciális poliharmonikus spline): $\phi \left(r\right)=r^{2}\ln \left(r\right)$

Közelítés

A függvények radiális bázisfüggvényekkel történő közelítéséhez általában az alakzat lineáris kombinációját veszik fel:

y\left(\mathbf {x} \right)=\sum _{i=1}^{N}w_{i}\,\phi \left(\left\|\mathbf {x} -\ mathbf {x} _{i}\right\|\right)

ahol a pontokban lévő középpontokkal rendelkező radiális bázisfüggvények összegét és az együtthatókat vesszük közelítő függvénynek . Az együtthatók a legkisebb négyzetek módszerével számíthatók ki , mivel az illesztési függvény lineáris az együtthatókhoz képest . $y\left(\mathbf {x} \right)$ $N$ ${\displaystyle \mathbf {x} _{i))$ $w_{{i}}$ $w_{{i}}$

Az ilyen közelítési sémák különösen hasznosak. az idősoros előrejelzésben , a meglehetősen egyszerű kaotikus viselkedést mutató nemlineáris rendszerek vezérlésében és a számítógépes grafika 3D-s modellezésében .

RBF alapú neurális hálózatok

Lineáris kombináció:

y\left(\mathbf {x} \right)=\sum _{i=1}^{N}w_{i}\,\phi \left(\left\|\mathbf {x} -\ mathbf {x} _{i}\right\|\right)

úgy is értelmezhető, mint a legegyszerűbb egyrétegű mesterséges neurális hálózat , az úgynevezett radiális bázisfüggvények hálózata , amelyben a radiális bázisfüggvény aktiváló függvény szerepét tölti be. Kimutatható, hogy bármilyen folytonos függvény egy kompakt intervallumon elvileg tetszőleges pontossággal interpolálható kellően nagy . $N$

A közelítés differenciálható a -hoz képest . Az együtthatók bármilyen szabványos iteratív módszerrel számíthatók neurális hálózatokra. $y\left(\mathbf {x} \right)$ $w_{{i}}$

Így a radiális bázisfüggvények rugalmas interpolációs eszközt biztosítanak, feltéve, hogy a központok halmaza többé-kevésbé egyenletesen fedi le a kívánt függvény tartományát (ideális esetben a középpontok egyenlő távolságra vannak a legközelebbi szomszédoktól). Általában azonban a közbülső pontokban a közelítés csak akkor ér el nagy pontosságot, ha a radiális bázisfüggvények halmazát kiegészítjük az egyes RBF-ekre ortogonális polinomokkal.

Jegyzetek

↑ Radial Basis Function networks Archiválva : 2014. április 23.
↑ Broomhead, Lowe, 1988 , p. 321–355
↑ Michael J. D. Powell; Michael JD Powell. Indítsa újra az eljárásokat a konjugált gradiens módszerhez // Matematikai programozás : folyóirat. - Springer, 1977. - 1. évf. 12 . - P. 241-254 . - doi : 10.1007/bf01593790 .
↑ Sahin, Ferat (1997). Színes képosztályozási probléma radiális alapú megközelítése valós idejű ipari alkalmazásban (PDF) (M.Sc.). Virginia Tech . p. 26. Archiválva az eredetiből (PDF) , ekkor: 2015-10-26 . Letöltve: 2018-06-02 . A radiális bázisfüggvényeket először Powell vezette be a valódi többváltozós interpolációs probléma megoldására. Elavult használt paraméter |deadlink=( súgó )
↑ Broomhead, Lowe, 1988 , p. 347: "Szeretnénk köszönetet mondani MJD Powell professzornak, a Cambridge-i Egyetem Alkalmazott Matematika és Elméleti Fizika Tanszékén, hogy megadta a kezdeti ösztönzést ehhez a munkához."
↑ VanderPlas, Jake Bevezetés a vektorgépek támogatásába (a hivatkozás nem érhető el) . [O'Reilly] (2015. május 6.). Letöltve: 2015. május 14. Az eredetiből archiválva : 2015. szeptember 5.. (határozatlan)

Irodalom

Broomhead, David H.; Lowe, David. Többváltozós funkcionális interpoláció és adaptív hálózatok (angol) // Komplex rendszerek : napló. - 1988. - 1. évf. 2 . - P. 321-355 . Az eredetiből archiválva : 2014. július 14.
Buhmann, Martin D. (2003), Radial Basis Functions: Theory and Implementations , Cambridge University Press , ISBN 978-0-521-63338-3 .
Hardy, RL Topográfia és más szabálytalan felületek többkvadrú egyenlete // Journal of Geophysical Research : folyóirat. - 1971. - 1. évf. 76 , sz. 8 . - P. 1905-1915 . - doi : 10.1029/jb076i008p01905 . — Irodai .
Hardy, RL A multikvadrikus-biharmonikus módszer elmélete és alkalmazásai, A felfedezés 20 éve, 1968 1988 // Comp . matematikai alkalmazás: napló. - 1990. - 1. évf. 19 , sz. 8/9 . - P. 163-208 . - doi : 10.1016/0898-1221(90)90272-l .
Press, W. H.; Teukolsky, SA; Vetterling, WT & Flannery, BP (2007), 3.7.1. szakasz. Radial Basis Function Interpolation , Numerical Recipes: The Art of Scientific Computing (3. kiadás), New York: Cambridge University Press, ISBN 978-0-521-88068-8
Sirayanone, S., 1988, Összehasonlító tanulmányok kriging, multikvadrikus-biharmonikus és egyéb módszerek az ásványkincs-probléma megoldására, Ph.D. Disszertáció, MPEI. Geosciences, Iowa State University, Ames, Iowa.
Sirayanone, S. Az ásványi nyersanyagokhoz, meteorológiai és egyéb alkalmazásokhoz használt multikvadrikus-biharmonikus módszer // Journal of Applied Sciences and Computations : folyóirat. - 1995. - 1. évf. 1 . - P. 437-475 .

Gépi tanulás és adatbányászat
Feladatok	Osztályozási probléma Tanulás tanár nélkül Tanár által segített tanulás Regresszió analízis AutoML Egyesületi szabályzat Funkció kivonás Tulajdonságok képzése Rangsorképzés Nyelvtani levezetés Online tanulás
Tanulás tanárral	k-legközelebbi szomszéd módszer Naiv Bayes osztályozó döntési fa Támogatja a vektoros gépet Lineáris regresszió Logisztikus regresszió perceptron Modellek együttesei Zsákolás fellendítése véletlenszerű erdő Releváns vektoros módszer
klaszteranalízis	k-közép módszer Fuzzy klaszterezési módszer Hierarchikus klaszterezés EM algoritmus NYÍR GYÓGYMÓD DBSCAN OPTIKA Átlageltolás
Dimenziócsökkentés	Faktoranalízis Főkomponens módszer CCA ICA LDA Nem negatív mátrix kiterjesztése t-SNE
Strukturális előrejelzés	Grafikon valószínűségi modell Bayesi hálózat Rejtett Markov-modell CRF
Anomália észlelése	k-legközelebbi szomszéd módszer Helyi kibocsátási szint
Grafikon valószínűségi modellek	Bayesi hálózat Markov hálózat Rejtett Markov-modell
Neurális hálózatok	Limitált Boltzmann gép önszerveződő térkép Aktiválási funkció Szigma alakú softmax Radiális bázisfüggvény Hátsó szaporítási módszer Mély tanulás Többrétegű perceptron Ismétlődő neurális hálózat hosszú távú rövid távú memória Ellenőrzött visszatérő blokk Konvolúciós Neurális Hálózat U-Net Autoencoder
Megerősítő tanulás	Markov folyamat Bellman egyenlet Mohó algoritmus Q-learning SARSA Időbeli különbség (TD)
Elmélet	Vapnik-Chervonenkis elmélet Elfogultság-diszperziós dilemma Számítógépes tanuláselmélet Empirikus kockázatminimalizálás Occam tanul PAC tanulás Statisztikai tanuláselmélet
Folyóiratok és konferenciák	NeurIPS ICML ML JMLR ArXiv:cs.LG