Robusztusság

Az oldal jelenlegi verzióját még nem ellenőrizték tapasztalt hozzászólók, és jelentősen eltérhet a 2017. október 6-án felülvizsgált verziótól ; az ellenőrzések 7 szerkesztést igényelnek .

A robusztusság ( eng. robustness ← robusztus "erős; erős; szilárd; stabil") egy statisztikai módszer olyan tulajdonsága, amely a különböző típusú kibocsátások vizsgálatának eredményére való befolyás függetlenségét, az interferencia ellenállását jellemzi.

Outlier (robusztus) módszer - olyan módszer, amely a kiugró értékek azonosítására, hatásuk csökkentésére vagy a mintából való kizárására irányul .

A gyakorlatban már kis számú kiugró érték (outlier) jelenléte a mintákban nagymértékben befolyásolhatja a vizsgálat eredményét, például a legkisebb négyzetek módszere és a maximális likelihood módszer adott eloszlásokon ilyen torzulásoknak van kitéve, és a a vizsgálat eredményeként megszerzett értékek önmaga számára elveszíthetik értelmüket. Az ilyen interferencia hatásának kiküszöbölésére különféle megközelítéseket alkalmaznak a "rossz" megfigyelések (outlierek) hatásának csökkentésére vagy teljes kiküszöbölésére. A kiugró módszerek fő feladata a „rossz” megfigyelés megkülönböztetése a „jó”-tól, és a legegyszerűbb, szubjektív (a kutató belső érzésein alapuló) megközelítés is jelentős előnyökkel járhat, azonban a motivált elutasításnál. a kutatók még mindig olyan módszereket használnak, amelyek valamilyen szigorú matematikai indokláson alapulnak. Ez a folyamat egy statisztikus számára nagyon nem triviális feladat, és a statisztikatudomány egyik területét határozza meg .

A kitörési stabilitás (robusztusság) fogalma

Vegyünk egy klasszikus példát a robusztus és nem robusztus jellemzőkre az átlagjövedelem kiszámításához. Legyen 10 ember, akik közül kilencen 100 rubelt keresnek, egy pedig 500 rubelt. A számok számtani átlaga 140, bár a mintában szereplők 90%-a kevesebbet keres. Ugyanakkor a minta mediánja 100: a nagyon eltérő érték nem befolyásolta a medián értékét. Így a medián egy robusztus jellemző példája, míg a számtani átlag nem.

A kiugró stabilitás (robusztusság) a statisztikában a mintában lévő különböző eltérésekre és inhomogenitásokra való érzékenységet érti , amely bizonyos, általában ismeretlen okokkal társul [1] [2] . Ezek lehetnek megfigyeléseket regisztráló detektorhibák, valaki lelkiismeretes vagy szándékos kísérlete a minta „beillesztésére”, mielőtt az bekerülne a statisztikába, tervezési hibák, becsúszott elírások és még sok más. Például az eloszlási törvény eltolási paraméterének legkiugróbb becslése a medián , ami intuitív szinten teljesen nyilvánvaló (a szigorú bizonyításhoz azt a tényt kell használni, hogy a medián egy csonka M-becslés, lásd alább ) [ 1] . A közvetlenül „hibás” megfigyeléseken kívül számos olyan megfigyelés is előfordulhat, amelyek eltérő eloszlást követnek . Az eloszlási törvények feltételessége miatt , és ez nem más, mint egy leírási modell, maga a minta tartalmazhat némi eltérést az ideálistól.

Ennek ellenére a parametrikus megközelítés olyannyira megszokta, bizonyítja egyszerűségét és célszerűségét, hogy abszurdum megtagadni. Ezért szükségessé vált a régi modellek új feladatokhoz való adaptálása.

Külön érdemes hangsúlyozni, és nem szabad elfelejteni, hogy az elutasított megfigyelések külön, közelebbi odafigyelést igényelnek. Azok a megfigyelések, amelyek az egyik hipotézishez "rossznak" tűnnek, konzisztensek lehetnek egy másik hipotézissel. Végezetül, az élesen megkülönböztetett megfigyelések korántsem mindig „házasság”. Az egyik ilyen megfigyelés például a génsebészet esetében több millió mást is megér, amelyek alig különböznek egymástól.

Alapvető megközelítések

Az inhomogenitások befolyásának korlátozására vagy teljes kiküszöbölésére számos különböző megközelítés létezik. Közülük két fő irány emelkedik ki.

Adatok csoportosítása az egyes megfigyelések törlése nélkül (az egyedi kiugró értékek mintakárosodásának csökkentése érdekében). Ezt követően, kellő biztonsággal, megengedett a klasszikus statisztikai módszerek alkalmazása .

Kövesse nyomon a kibocsátásokat közvetlenül az elemzési folyamatban. Például az eloszlási törvény paramétereinek meghatározására lehetőség van egy iteratív eljárásra csonka vagy th - redukált M-becslésekkel [1] .

Az adatok csoportosítása, mint a kiugró statisztikák módszere

A minta csoportosításával az egyes megfigyelések befolyása drasztikusan csökkenthető anélkül, hogy elvetnénk őket. Az intervallumokra való felosztás nem különösebben nehéz, és nagyon kézzelfogható eredményt ad. Három leggyakoribb particionálási módszer létezik.

Felosztás egyenlő hosszúságú intervallumokra. A legegyszerűbb és ezért a leggyakoribb módszer.

Az egyenlő valószínűségű binning, más néven egyenlő gyakoriságú csoportosítás ennek a módszernek a gyakorlati megvalósítását tükrözi. A minta ilyen csoportosításának eredményeként az információs entrópia maximalizálódik , ahol az illeszkedési jóság kritériumának vagy a valószínűségi arány kritériumának [3] legmagasabb aszimptotikus ereje érhető el . $\sum {-P_{i}}\ln {P_{i}}$ $P_{i}=\int \limits _{x_{i-1}}^{x_{i}}f(x)\,\mathrm {d} x$ $\chi ^{2}$

Felosztás aszimptotikusan optimális intervallumokra. Egy ilyen partíciónál minimálisra csökken a csoportosításból eredő információvesztés, vagyis maximalizálja a Fisher-információt , ahol a törvény becsült paramétere. Számos eloszlási törvény esetében lehetőség nyílt a paraméterek szempontjából invariáns intervallumhatárok meghatározására, és a megfelelő táblázatokat összeállítottuk. Egy ilyen partíció lehetővé teszi a feltétel erejének maximalizálását . $\sum \left({\frac {\partial \ln P_{i}}{\partial \theta }}\right)^{2}P_{i}$ $\theta$

Befolyásoló függvény megközelítés

Külön megközelítés a kiugró módszerek felépítésében az eloszlási törvény paramétereinek becslése "szennyezett" mintára a Hampel által javasolt megközelítéssel [1] . Annak vizsgálatára, hogy egyetlen megfigyelés milyen hatással van az eloszlási törvény egyik vagy másik paraméterének értékelésére (a vizsgált statisztikára), Hampel bevezeti az úgynevezett befolyásolási függvényt , amely nem más, mint ennek a statisztikának a származéka .

Alapfogalmak

A függvényt valamilyen minta függvényeként vezetjük be az eloszlásból a paraméterrel (ez is ). attól függ . Így van ez a törvény és a paraméter függvénye is . A következetesség és szabályosság néhány feltételének is eleget teszünk : $T$ $X=(X_{1}\ldots X_{n})\in \mathbb {X}$ $F$ $\theta \in \Theta$ $F_{\theta}$ $T$ ${\displaystyle X:F_{\theta ))$ $T$ $F$ $\theta$ $T$

T(F)=\theta ,\quad \int T\,\mathrm {d} F=0.

Ennek a függvénynek a deriváltja egy eloszlású pontban : $T$ $F$

\exists \,a:\quad \lim _{t\to 0}{\frac {T((1-t)F+tG)-T(F)}{t}}:=\int a \,\mathrm {d} G,

ahol:

$a$ - egy bizonyos funkció, amelynek jelentése a következő lépésben válik világossá;
$G$ eltér-e valamilyen elosztási törvény a . $F$

Behelyettesítéskor egységnyi tömeget rendelünk az eseményhez a helyett , aminek eredményeként csak : $\Delta _{x}$ $X=x$ $G$ $fejsze)$

IF=\lim _{t\to 0}{\frac {T((1-t)F+t\Delta _{x})-T(F)}{t)).

Ezt a függvényt befolyásoló függvénynek nevezzük .

A befolyásoló függvény jelentését a határ behelyettesítésével és cseréjével demonstráljuk , ennek eredményeként a kifejezés átalakul -ra , ami megfelel annak a helyzetnek, amikor egy újabb újat adunk az eloszlásnak engedelmeskedő megfigyelésekből álló mintához . Így nyomon követi a használt funkcionalitás reakcióját az elvégzett kiegészítésre, megmutatva egyetlen megfigyelés hozzájárulásának hatását a teljes adatkészlet értékelésére. ${\frac {1}{n}}$ $t$ $F_{t,x}=(1-t)F+t\Delta _{x}$ $F_{{\frac {1}{n)),x}={\frac {(n-1)F+\Delta _{x}}{n}}$ $(n-1)$ $F$ $IF$ $T$ $x$

Az egyéni megfigyelések hatásának jellemzésére bevezetjük a nagy hibára való érzékenység fogalmát is : $\gamma$

\gamma =\sup _{{x\in {\mathbb {X}}}}|IF(x)|.

Ha a befolyásoló függvény korlátozott, akkor a megfelelő becslést B(be)-robustnak nevezzük .

M-pontszámok

Az eloszlási törvények paramétereinek leghatékonyabb és legszélesebb körben használt becslései a maximum likelihood becslések (MLE), amelyeket a következő feltételek valamelyike határoz meg:

\sum _{i}\ln P_{i}\to \max _{\theta \in \Theta },\qquad \sum _{i}{\frac {\partial \ln P_{i)) {\partial \theta }}=0,\qquad \sum _{i}{\frac {P_{i}'}{P_{i}}}=0,

ahol csoportosítatlan minta esetén és csoportos minta esetén, $P_{i}=f(x_{i},\theta )$ $P_{i}=\left(\int \limits _{x_{i-1}}^{x_{i}}f(x,\theta )\,\mathrm {d} x\right)^ {n_{i}}$

M-becslések – van egy bizonyos általánosítás a tömegpusztító fegyverekről. Hasonlóan határozzák meg őket az egyik reláció:

\sum _{i=1}^{N}\rho (x_{i},\theta )\to \max _{\theta \in \Theta },\qquad \sum _{i=1} ^{N}\phi (x_{i},\theta )=0.

Ha a behelyettesítésben szabályossági feltételt szabunk , és 0-hoz képest megkülönböztetjük : $F_{t,x}=(1-t)F+t\Delta _{x}$ $t$

0={\frac {\partial }{\partial {t))}\int \phi (x,T(F_{t,x}))\,\mathrm {d} F_{t,x}

0=\int {\frac {\partial \phi (x,T(F_{t,x}))}{\partial \theta }}IF\,\mathrm {d} F_{t,x} +\int \phi (x,T(F_{t,x}))\,\mathrm {d} {\frac {\partial ((1-t)F+t\Delta _{x})}{\ részleges t}}

0=IF\int {\frac {\partial \phi (x,T(F_{t,x}))}{\partial \theta }}\,\mathrm {d} F_{t,x} +\phi (x,T(F_{t,x})),

akkor nem nehéz megkapni az M-becslések befolyásoló függvényének kifejezését :

IF={\frac {-\phi (x)}{\int \phi '_{\theta }(x)\,\mathrm {d} F)).

Ez a kifejezés arra enged következtetni, hogy az M-becslések ekvivalensek egy nem nulla állandó tényezőig.

Könnyen ellenőrizhető, hogy a szabványos normál eloszlási törvény MLE-jénél az eltolási paraméter és a skálaparaméter befolyásoló függvényei rendre úgy néznek ki: ${\mathcal {N}}(0,1)$ $IF$

IF=x,\quad IF={\frac {1}{2}}\;x^{2}-{\frac {1}{2}}.

Ezek a funkciók korlátlanok, ami azt jelenti, hogy az MLE nem kitöréstűrő (robusztus) a B-robusztusság szempontjából.

Ennek korrigálása érdekében az M-becslések mesterségesen korlátozzák, ezért korlátozzák (lásd az M-becslések kifejezését), felső gátat állítva a kiugró (a paraméterek várható értékétől távoli) megfigyelések befolyásának. Ez az úgynevezett csonka M-becslések bevezetésével történik, amelyeket a következő kifejezés határoz meg: $IF$ $IF$

\phi _{b}(z)=\left\{{\begin{array}{lr}\phi (b),&b<z\\\phi (z),&-b<z\leqslant b\\\phi (-b),&z\leqslant -b\end{tömb}}\jobbra\},

ahol , és az eltolási és skálaparaméterek becslései. $z={\frac {x-\theta }{S}}$ $\theta$ $S$

A csonka M-becslések közül a csonka MLE [1] optimális a B-robusztusság szempontjából .

Paraméterbecslési eljárás

Az egyenlet megoldásához

\sum _{i=1}^{N}\phi (x_{i},\theta )=0

valamilyen numerikus módszert kell alkalmazni . Ehhez ki kell választani a kezdeti közelítéseket. A nulla eltolási paraméter általában a medián , a skálaparaméter pedig a mediántól való eltérések mediánjának többszöröse.

Például, ha meg kell becsülnie az eltolási paramétert, például a normál eloszlási törvényben , használhatja Newton módszerét az egyenlet gyökereinek numerikus megtalálására . Ennek eredményeként a paraméter megtalálásának teljes eljárása a kifejezés iteratív kiszámítására redukálódik:

\theta _{{k+1}}=\theta _{k}-{\frac {\sum _{{i=1}}^{N}\phi (x_{i},\theta _{k} )}{\sum _{{i=1}}^{N}\phi '_{\theta }(x_{i},\theta _{k))}}=\theta _{k}-{\ frac {\sum _{{i=1}}^{N}\phi \left((x_{i}-\theta _{k})/S\right)}{\sum _{{i=1} }^{N}\phi '_{\theta }\left((x_{i}-\theta _{k})/S\right)))=\theta _{k}+S{\frac {\ összeg _{{i=1}}^{N}\phi \left(z\right)}{\sum _{{i=1}}^{N}\phi '_{z}\left(z\ jobb)}},

ahol a különböző tartományú eloszlások kiegyenlítésére használt skálaparaméter becslése. $S$

Lásd még

Átképzés
Marellier tétele

Jegyzetek

↑ 1 2 3 4 5 Hampel F., Ronchetti E., Rausseu P., Stael W. Robusztusság a statisztikákban. Robusztus statisztika: a befolyásolási függvényeken alapuló megközelítés . - M .: Mir, 1989.
↑ Huber P. Robusztusság a statisztikákban. - M .: Mir, 1984.
↑ Kendall M., Stewart A. Statisztikai következtetések és asszociációk. - M .: Nauka, 1973.

Linkek

Dodonov Yu. S., Dodonova Yu. A. A központi tendencia robusztus mértékei: súlyozás, mint az adatcsonkítás lehetséges alternatívája a válaszidő elemzésben .
A paraméterek becslésének és a statisztikai hipotézisek tesztelésének outlier (robusztus) módszereiről szóló publikációk NSTU Lemeshko B. Yu professzor honlapján .

Irodalom

Robert G. Staudte: Robusztus becslés és tesztelés . Wiley, New York 1990. ISBN 0-471-85547-2
Rand R. Wilcox: Bevezetés a robusztus becslésekbe és a hipotézisek tesztelésébe . Academic Press, San Diego Cal 1997. ISBN 0-12-751545-3