Bootstrap (statisztika)

A Bootstrap [1] ( angolul bootstrap ) a statisztikában egy gyakorlati számítógépes módszer a valószínűségi eloszlások statisztikáinak eloszlásának tanulmányozására , amely több mintageneráláson alapul a Monte Carlo módszerrel a meglévő minta alapján [2] . Lehetővé teszi, hogy könnyen és gyorsan kiértékelje a statisztikák széles skáláját ( konfidenciaintervallumok , variancia , korreláció stb.) összetett modellekhez.

A koncepciót 1977 -ben vezette be Bradley Efron (az első publikáció 1979 -ből származik [3] ). A módszer lényege egy empirikus eloszlás felépítése a meglévő minta alapján . Ezt az eloszlást elméleti valószínűségi eloszlásként használva szinte korlátlan számú, tetszőleges méretű, például az eredetivel megegyező pszeudominta generálható egy pszeudo-véletlenszám-generátor segítségével. Az álminták halmazán nemcsak az elemzett statisztikai jellemzőket értékelhetjük ki, hanem azok valószínűségi eloszlását is. Így például meg lehet becsülni bármely statisztika varianciáját vagy kvantiliseit , függetlenül annak összetettségétől. Ez a módszer a nem paraméteres statisztika módszere .

A "jackknife" módszerekkel együtt a kereszt-validáció és a permutáció tesztelése ( angol. egzakt teszt ) az újramintavételezési generálási módszerek egy osztályát alkotja ( eng. resampling ).

Etimológia

A szó a következő kifejezésből származik: "Csizmán fogva áthúzni magát a kerítésen." (szó szerint - „a csizmán lévő pántok meghúzásával átjutni a kerítésen” (lásd a jobb oldali képet). Az oroszul beszélők számára Münchausen báró története lesz közelebb , aki a haját húzva meghúzta magát és a lovát a mocsárból.

Magát a bootstrap anglicizmust a tudás számos területén használják, ahol azt kell érzékeltetni, hogy „ingyen” kapunk valamit, vagy varázslatosan kapunk valami értékeset a semmiből. A statisztika területén a kifejezés legközelebbi analógja az etimológia szempontjából az „önhúzó”.

Bevezető példa

Legyen két észrevétel:

(x_{1},y_{1})=(1,1),\ (x_{2},y_{2})=(2,3)

Tegyük fel, hogy meg kell becsülnünk egy paramétert y regressziójában x -en :

{\displaystyle y_{i}=\theta x_{i}+\epsilon _{i))

A legkisebb négyzetek módszerével kapott paraméterbecslés egyenlő lesz

{\hat {\theta }}={\frac {x_{1}y_{1}+x_{2}y_{2}}{x_{1}^{2}+x_{2}^{ 2}}}={\frac {1\times 1+2\times 3}{1^{2}+2^{2}}}={\frac {7}{5}}

Az empirikus eloszlásfüggvény ebben az esetben egyenlő

(x,y)'={\begin{cases}(1,1)',\quad p=1/2\\(2,3)',\quad p=1/2\\\end {esetek}}

Ebben az esetben az empirikus eloszlásra vonatkozó két megfigyelés adatai a következőképpen oszlanak meg:

(x_{1},y_{1})',(x_{2},y_{2})'={\begin{cases}(1,1)',(1,1)',\ quad p=1/4\\(1,1)',(2,3)',\quad p=1/4\\(2,3)',(1,1)',\quad p=1 /4\\(2,3)',(2,3)',\quad p=1/4\\\end{cases}}

Ez a bootstrap disztribúció. Ezután megtaláljuk az OLS becslés eloszlását:

{\hat {\theta }}_{2}^{*}={\begin{cases}1,\quad \quad p=1/4\\7/5,\quad p=1/2 \\3/2,\quad p=1/4\\\end{cases}}

Alkalmazás

A bootstrap torzítás korrigálására, hipotézisek tesztelésére és konfidenciaintervallumok felépítésére szolgál.

Bootstrap Confidence Interval: An Algorithm

Legyen egy minta az általános sokaságból , és szükséges a paraméter becslése . Ki kell választani, hogy az eredeti minta elemeiből hány pszeudo-minta kerüljön kialakításra visszatéréssel. Minden pszeudo -mintához egy pszeudo-statisztika kerül kiszámításra . $(z_{1};z_{2};\dots ;z_{n})$ $\theta$ $B$ $(z_{1}^{*};z_{2}^{*};\dots ;z_{n}^{*})_{b},b=1,2,\dots ,B$ ${\hat {\theta }}_{b}^{*}$

Az álstatisztikák a legkisebbtől a legnagyobbig vannak rendezve. A kvantilisek értékeket vesznek fel . Konfidenciaintervallum felépítésére szolgálnak. ${\hat {\theta }}_{1}^{*},{\hat {\theta }}_{2}^{*},\dots ,{\hat {\theta }}_{ B}^{*}$ $q_{\alpha _{1}}^{*},q_{1-\alpha _{2}}^{*}$ ${\hat {\theta }}_{[B\alpha _{1}]}^{*},{\hat {\theta }}_{[B(1-\alpha _{2}) +1]}^{*}$

Jegyzetek

↑ Bootstrap , bootstrap , bootstrapping , bootstrapping is .
↑ アーカイブされたコピー. Letöltve: 2007. március 23. Az eredetiből archiválva : 2012. július 12. (határozatlan)
↑ Efron, 1979 .

Irodalom

Sztanyiszlav Anatoljev . Ökonometria haladóknak. Előadás tanfolyam. – 2002.
Bradley Efron . Bootstrap módszerek: Újabb pillantás a Jackknife-re // Annals of Statistics. - 1979. - 1. évf. 7 , sz. 1 . - P. 1-26 . — ISSN 0090-5364 . - doi : 10.1214/aos/1176344552 .

Linkek

Bootstrap oktatóanyag az ICASSP 99- től (2013-05-13 óta lefelé irányuló kapcsolat [3451 nap] - előzmények ) : Oktatóanyag a jelfeldolgozás szemszögéből
Bootstrap mintavételezési útmutató MS Excel használatával
Animációk az iid adatok rendszerbetöltéséhez (2013-05-13 óta [3451 nap] - előzmények ) Yihui Xie által az R segítségével
Bootstrap oktatóanyag

Bibliográfiai katalógusokban	BNF : 12378257v J9U : 987007536908405171 LCCN : sh91004766 NKC : ph225449