A pillanatok módszere

A momentumok módszere az eloszlások ismeretlen paramétereinek becslésére szolgáló módszer a matematikai statisztikában és ökonometriában , a momentumok feltételezett tulajdonságain alapuló módszerrel ( Pearson , 1894). A módszer lényege, hogy a valódi arányokat szelektív analógokkal helyettesítse.

A módszer lényege

Legyen egy X valószínűségi változónak (vektornak, mátrixnak stb.) valamilyen eloszlása a paraméterektől függően . A mértékre integrálható függvények ( momentumnak vagy momentumfüggvénynek nevezett ) teljesítsék a momentumok feltételeit $\mathbb {P} _{\theta }$ $\theta \in \Theta \subset {\mathbb {R}}^{k}$ $g_{i}:{\mathbb {R}}^{m}\to {\mathbb {R}}$ $\mathbb {P} _{\theta }$

{\mathbb {E}}\left[g_{i}(X,\theta )\right]=0~,~~i=1..k

Legyen egy X valószínűségi változó mintája . Feltételezzük, hogy a pillanatokra vonatkozó feltételekhez hasonló viszonyok a mintára is teljesülnek, vagyis a pillanatokra vonatkozó feltételekben szereplő matematikai elvárások helyett a mintát kell használni eszközök: $X_{1},\lpontok ,X_{n}$

\overline {g_{i}(X,\theta )}=0~,~~i=1..k

sőt, ebben az ábrázolásban (amikor a nulla az egyenlőség jobb oldalán van), elegendő az átlagok helyett egyszerűen összegeket használni.

Ennek az egyenletrendszernek a megoldásából kapott becsléseket (a pillanatok szelektív feltételei) a momentumok módszerének becsléseinek nevezzük . A módszer elnevezése abból adódik, hogy a függvények leggyakrabban egy hatványtípusú függvények, amelyekből a matematikai elvárásokat a valószínűségszámításban és a matematikai statisztikában momentumoknak nevezik. $GI$

Ha a nyomatékfüggvények folytonosak, akkor a momentumok módszerének becslései konzisztensek .

Különleges esetek

A regressziós modellek becslésének néhány klasszikus módszere a momentumok módszerének speciális eseteként ábrázolható. Például, ha egy lineáris regressziós modell teljesíti a feltételt , akkor a pillanatnyi feltételek így néznek ki: $y_{t}=x_{t}^{T}b+\varepszilon _{t}$ $E(x_{t}^{T}\varepsilon _{t})=0$

$X^{T}e=0~\Jobbra ~X^{T}(y-Xb)=0~\Jobbra ~X^{T}Xb=X^{T}y$

Ezért ebben az esetben a momentumok módszerének becslése egybeesik a legkisebb négyzetek módszerének becslésével ${\hat {b}}_{{MM}}={\kalap {b}}_{{OLS}}=(X^{T}X)^{{-1}}X^{T}y$

Így az LSM a momentumok módszerének egy speciális esete, amikor a regresszorok és a véletlen hibák ortogonalitási feltétele teljesül. $E(x_{t}^{T}\varepsilon _{t})=0$

Tekintsünk egy másik esetet, amikor néhány z változó merőleges a lineáris regressziós modell véletlenszerű hibáira, azaz . Akkor ennek a feltételnek van egy szelektív analógja: $E(z_{t}^{T}\varepsilon _{t})=0$

$Z^{T}e=0~\Jobbra Z^{T}(y-Xb)=0~\Jobbra ~Z^{T}Xb=Z^{T}y$

Ezért a momentumok módszerének becslése egybeesik a műszeres változók módszerének becslésével : . ${\hat {b}}_{{MM}}={\kalap {b}}_{{IV}}=(Z^{T}X)^{{-1}}Z^{T}y$

Így a műszeres változók módszere a momentumok módszerének speciális esete, amikor a műszerek ortogonalitása és a modell véletlenszerű hibáinak feltétele teljesül.

A pillanatok általánosított módszere

A nyomatékok módszere általánosítható arra az esetre, amikor a nyomatékfeltételek száma meghaladja a becsülendő paraméterek számát. Ebben az esetben a problémának nyilvánvalóan nincs egyedi megoldása (általános esetben). Ebben az esetben megoldódik egy bizonyos funkció minimalizálásának problémája, amely a pillanatokra vonatkozó feltételeknek való megfelelés integrált fokát jellemzi.

Legyen olyan pillanatok feltételrendszere, amelyek száma nagyobb, mint az ismeretlen paraméterek száma. A momentumok általánosított módszere (GMM, GMM - Generalized Method of Moments) egy olyan becslés, amely minimalizálja a mintafeltételek pozitív határozott kvadratikus alakját a pillanatokra: $E(g(x,b))=0$

${\hat {b}}_{GMM}=\arg \min _{b}{\overline {g(x,b)}}^{T}W{\overline {g(x,b) }}$

ahol W valamilyen szimmetrikus pozitív határozott mátrix.

A súlymátrix elméletileg tetszőleges lehet (figyelembe véve a pozitív meghatározottsági korlátot), de bebizonyosodott, hogy a leghatékonyabbak a GMM becslések, amelyek súlymátrixa megegyezik a momentumfüggvények inverz kovarianciamátrixával . Ez az úgynevezett hatékony GMM . Mivel azonban ez a kovarianciamátrix a gyakorlatban nem ismert, a következő eljárást alkalmazzuk. Az első lépésben a modell paramétereit GMM segítségével becsüljük meg egy azonossági súlymátrixszal. Ezután a mintaadatok és a paraméterek talált értékei alapján megbecsülik a pillanatfüggvények kovarianciamátrixát, és az így kapott becslést felhasználják az effektív GMM-ben (ez az úgynevezett elérhető effektív GMM). $W=V_{g}^{{-1}}$

Példa

Legyen egy minta a gamma eloszlásból ismeretlen paraméterekkel és . Akkor $X_{1},\ldots ,X_{n}\sim \Gamma (\alpha ,\beta )$ $\alpha$ $\beta$

{\mathbb {E}}[X_{i}]=\alpha \beta ,\;{\mathbb {E}}\left[X_{i}^{2}\right]=\alpha (\alpha +1 )\beta ^{2},\quad i=1,\ldots ,n

Ekkor a pillanatok módszerének becslései kielégítik az egyenletrendszert:

{\begin{matrix}\overline {X}=&{\hat {\alpha }}_{{{\mathrm {MM}}}}{\hat {\beta }}_{({\mathrm {MM} }}}\\\overline {X^{2}}=&{\hat {\alpha }}_{({\mathrm {MM}}}}({\hat {\alpha }}_{({\) mathrm {MM)))+1)\left({\hat {\beta }}_{({\mathrm {MM}}}}\right)^{2}\end{mátrix}}~~\Rightarrow ~~{\hat {\alpha }}_{({\mathrm {MM}}}}={\frac {\left(\overline {X}\right)^{2}}{\overline {X^{ 2}}-\left(\overline {X}\right)^{2}}}~,~~{\hat {\beta }}_{({\mathrm {MM}}}}={\frac { \overline {X^{2}}-\left(\overline {X}\right)^{2}}{\overline {X}}}

A módszer előnyei és hátrányai

Egy ismert valószínűségi eloszláscsaládból származó paraméterek becslésekor ezt a módszert a Fisher -féle maximum likelihood módszer bizonyos mértékig megszünteti , mivel a maximális valószínűségi becslés nagy valószínűséggel közelebb kerül a becsült érték valódi értékéhez.

Egyes esetekben azonban, mint fentebb a gamma-eloszlásnál, a maximum likelihood módszer alkalmazása számítógépek használatát igényli , míg a momentumok módszere gyorsan és egyszerűen megvalósítható kézzel.

A momentumok módszerével kapott becslések a maximum likelihood módszer első közelítéseként használhatók. A becslések további javulását a Newton-Raphson módszerrel lehet elérni .