Releváns vektoros módszer

A Relevance Vector Machine ( RVM) egy olyan gépi tanulási technika , amely Bayes -i következtetést használ a regressziós és valószínűségi osztályozás parszimónia megoldásainak megszerzésére [1] . Az RTM-nek ugyanaz a funkcionális formája, mint a támogató vektorgépnek , de valószínűségi besorolást biztosít.

Leírás

A módszer valójában egy Gauss-folyamatmodellnek felel meg kovarianciafüggvénnyel :

k(\mathbf {x} ,\mathbf {x'} )=\sum _{j=1}^{N}{\frac {1}{\alpha _{j))}\varphi (\ mathbf {x} ,\mathbf {x} _{j})\varphi (\mathbf {x} ',\mathbf {x} _{j})

ahol a kernelfüggvény (általában Gauss-függvény), a súlyvektor előzetes varianciái , és az [2] tanítókészlet bemeneti vektorai . $\varphi$ ${\displaystyle \alpha _{j))$ $w\sim N(0,\alpha ^{-1}I)$ ${\displaystyle \mathbf {x} _{1},\ldots ,\mathbf {x} _{N))$

A támogató vektorgépekhez képest az RTM Bayes-féle megfogalmazása elkerüli a szabad paraméterek szükségességét (ami általában keresztellenőrzésen alapuló utóoptimalizálást igényel). Az RTM azonban az EM algoritmushoz hasonló tanulási módszert használ , ezért fennáll annak a veszélye, hogy a lokális minimumba kerül. Ez különbözteti meg a szekvenciális minimum optimalizáláson alapuló szabványos algoritmusoktól, amelyeket támogató vektorgépek használnak , és garantálják a globális optimum megtalálását (konvex problémán).

A Relevant Vector Method -ot az USA-ban szabadalmaztatta a Microsoft [ 3] .

Lásd még

nukleáris módszer
Platt skálázás : az SVM-et valószínűségi modellré alakítja

Jegyzetek

↑ Borravaló, 2001 , p. 211-244.
↑ Candela, 2004 .
↑ Michael E. Tipping, "Relevanciavektor gép", US 6633857

Irodalom

Michael E. Borravaló. A ritka Bayes-tanulás és a relevanciavektor gép // Journal of Machine Learning Research . - 2001. - T. 1 .
Joaquin Quiñonero Candela. Ritka valószínűségi lineáris modellek és az RVM // Tanulás bizonytalansággal – Gauss-folyamatok és relevanciavektor gépek . - Dániai Műszaki Egyetem, 2004. - (Ph.D.).

Szoftver

dlib C++ könyvtár
Atomgépek könyvtára
rvmbinary : R csomag a bináris osztályozáshoz
scikit-rvm
fast-scikit-rvm , Releváns vektoros módszer oktatóanyaga

Linkek

Gépi tanulás és adatbányászat
Feladatok	Osztályozási probléma Tanulás tanár nélkül Tanár által segített tanulás Regresszió analízis AutoML Egyesületi szabályzat Funkció kivonás Tulajdonságok képzése Rangsorképzés Nyelvtani levezetés Online tanulás
Tanulás tanárral	k-legközelebbi szomszéd módszer Naiv Bayes osztályozó döntési fa Támogatja a vektoros gépet Lineáris regresszió Logisztikus regresszió perceptron Modellek együttesei Zsákolás fellendítése véletlenszerű erdő Releváns vektoros módszer
klaszteranalízis	k-közép módszer Fuzzy klaszterezési módszer Hierarchikus klaszterezés EM algoritmus NYÍR GYÓGYMÓD DBSCAN OPTIKA Átlageltolás
Dimenziócsökkentés	Faktoranalízis Főkomponens módszer CCA ICA LDA Nem negatív mátrix kiterjesztése t-SNE
Strukturális előrejelzés	Grafikon valószínűségi modell Bayesi hálózat Rejtett Markov-modell CRF
Anomália észlelése	k-legközelebbi szomszéd módszer Helyi kibocsátási szint
Grafikon valószínűségi modellek	Bayesi hálózat Markov hálózat Rejtett Markov-modell
Neurális hálózatok	Limitált Boltzmann gép önszerveződő térkép Aktiválási funkció Szigma alakú softmax Radiális bázisfüggvény Hátsó szaporítási módszer Mély tanulás Többrétegű perceptron Ismétlődő neurális hálózat hosszú távú rövid távú memória Ellenőrzött visszatérő blokk Konvolúciós Neurális Hálózat U-Net Autoencoder
Megerősítő tanulás	Markov folyamat Bellman egyenlet Mohó algoritmus Q-learning SARSA Időbeli különbség (TD)
Elmélet	Vapnik-Chervonenkis elmélet Elfogultság-diszperziós dilemma Számítógépes tanuláselmélet Empirikus kockázatminimalizálás Occam tanul PAC tanulás Statisztikai tanuláselmélet
Folyóiratok és konferenciák	NeurIPS ICML ML JMLR ArXiv:cs.LG