Cramer-Rao egyenlőtlenség

A Cramer-Pao egyenlőtlenség egy olyan egyenlőtlenség , amely bizonyos feltételek mellett a statisztikai modellben alsó korlátot ad egy ismeretlen paraméter becslésének varianciájára, Fisher-információval fejezve ki azt .

Harald Cramer svéd matematikusról és Kalyampudi Rao indiai matematikusról nevezték el, de tőlük függetlenül Frechet , Darmois ( fr. Georges Darmois ), Aitken ( angolul Alexander Aitken ) és Silverstone ( Harold Silverstone ) is megalakult. A becslés kvantumelméletében ismert egy általánosítás - a kvantum Cramer-Rao egyenlőtlenség .

Megfogalmazás

Statisztikai modell esetén egy méretű minta , a valószínűségi függvény meghatározása , és a következő feltételek (szabályossági feltételek) teljesülnek: ${\megjelenítési stílus (X,\,B,\,P_{\theta })}$ $x=(x_{1},\dots ,\,x_{n})$ $n$ $L(\theta ,\,x)=L(\theta ,\;x_{1},\,x_{2},\dots \,x_{n})$

$L_{}^{}>0$ és mindenhol megkülönböztethető tekintetében ; $\theta _{}^{}$
a függvény ( mintavételi hozzájárulás függvény ) véges szórással rendelkezik (vagy ennek megfelelően a Fisher-információ véges ); $U(\theta ,\,x)={\frac {\partial \ln L(\theta ,\,x)}{\partial \theta ))$
bármely véges második momentumú statisztikára a következő egyenlőség áll fenn: ${\widehat {\theta }}(x)$ ${\frac {\partial }{\partial \theta }}\int \limits _{X}{\widehat {\theta }}(x)\,L(\theta ,\,x)\,dx =\int \limits _{X}{\widehat {\theta }}(x)\,{\frac {\partial }{\partial \theta }}L(\theta ,\,x)\,dx$ .

Ha ilyen feltételek mellett olyan statisztikát adunk , amely elfogulatlanul becsül egy differenciálható függvényt , akkor a következő egyenlőtlenség igaz: ${\widehat {\theta }}(x)$ $\tau (\theta )$

\mathrm {D} _{\theta }{\big (}{\widehat {\theta }}(x){\big )}\geqslant {\frac {(\tau '(\theta ))^ {2}}{nI(\theta )}}}

, hol ;

I(\theta )=M\left({\frac {d\ln L(\theta ,x)}{d\theta }}\right)^{2}

és az egyenlőség akkor és csak akkor valósul meg, ha:

{\frac {d\ln L(\theta ,x)}{d\theta }}=a(\theta )({\widehat {\theta }}(x)-\tau (\theta ))

Itt van az információ mennyisége Fisher szerint egy megfigyelésben, és az általános sokaság eloszlási sűrűsége folytonos statisztikai modell esetén és egy esemény valószínűsége diszkrét statisztikai modell esetén. $I^{}(\theta )$ $L(\theta ,t)$ $x$ ${\megjelenítési stílus (X=t)}$

Különleges eset

Gyakran használják a következő speciális esetet, amelyet Cramer-Rao egyenlőtlenségnek is neveznek: ha a szabályossági feltételek teljesülnek, és a paraméter torzítatlan becslése , akkor: ${\widehat {\theta }}(x)$ $\theta$

\mathrm {D} _{\theta }\,{\widehat {\theta }}(x)\geqslant {\frac {1}{I_{n}(\theta )))

Az egyenlőtlenség ebben az egyenlőtlenségben akkor és csak akkor érhető el . ${\hat {\theta }}(x)-\theta =a(\theta )U(\theta ,x)$

Alkalmazás

Egy paraméter becslését akkor nevezzük effektívnek , ha számára a Cramer-Rao egyenlőtlenség egyenlőséggé változik. Így az egyenlőtlenséggel igazolható, hogy egy adott becslés szórása a lehető legkisebb, vagyis ez a becslés bizonyos értelemben jobb, mint az összes többi.

Irodalom

Matematikai statisztika, szerk. V. S. Zarubina, „Matematika a Műszaki Egyetemen” sorozat, 1. köt. XVII, M., MSTU, 2002