Kovariancia mátrix

A kovarianciamátrix (vagy kovarianciamátrix ) a valószínűség-elméletben egy vagy két véletlen vektor elemeinek páronkénti kovarianciáiból álló mátrix .

Egy véletlen vektor kovarianciamátrixa egy négyzetszimmetrikus nemnegatív határozott mátrix, melynek átlóján a vektorkomponensek varianciái , az átlón kívüli elemek pedig a komponensek közötti kovariancia találhatók.

Egy véletlen vektor kovariancia mátrixa a véletlen vektorok valószínűségi változójának varianciájának többváltozós analógja. Két véletlen vektor kovarianciamátrixa a két valószínűségi változó közötti kovariancia többdimenziós analógja.

Normális eloszlású valószínűségi vektor esetén a kovariancia mátrix a vektor matematikai elvárásával együtt teljes mértékben meghatározza annak eloszlását (hasonlóan azzal a ténnyel, hogy egy normális eloszlású valószínűségi változó matematikai elvárása és varianciája teljesen meghatározza az eloszlását)

Definíciók

Legyen , két véletlenszerű dimenziós és , ill. Legyen a valószínűségi változóknak is véges második momentuma ( diszperzió ), azaz . Ezután a vektor kovariancia mátrixot hívják ${\mathbf {X}}:\Omega \to {\mathbb {R}}^{n}$ ${\mathbf {Y}}:\Omega \to {\mathbb {R}}^{m}$ $n$ $m$ $X_{i},Y_{j},\;i=1,\ldots ,n,\;j=1,\ldots ,m$ $X_{i},Y_{j}\in L^{2}$ ${\mathbf {X}),{\mathbf {Y}}$

\Sigma ={\mathrm {cov}}({\mathbf {X}},{\mathbf {Y}})={\mathbb {E}}\left[({\mathbf {X}}-{\mathbb {E}}{\mathbf {X}})({\mathbf {Y}}-{\mathbb {E}}{\mathbf {Y}})^{{\top }}\right],

vagyis

\Sigma =(\sigma _{{ij}})

ahol

\sigma _{{ij))={\mathrm {cov}}(X_{i},Y_{j})\equiv {\mathbb {E}}\left[(X_{i}-{\mathbb {E }}X_{i})(Y_{j}-{\mathbb {E}}Y_{j})\jobbra],\;i=1,\ldots ,n,\;j=1,\ldots ,m

{\mathbb {E}}

- matematikai elvárás .

Ha , akkor vektor kovariancia mátrixnak nevezzük és jelöli . [1] Egy ilyen kovarianciamátrix egy többváltozós valószínűségi változó varianciájának általánosítása, a nyoma pedig egy többváltozós valószínűségi változó varianciájának skaláris kifejezése . Ebben a tekintetben a jelölést is használják - egy véletlen vektor varianciáját. Ennek a mátrixnak a sajátvektorai és sajátértékei lehetővé teszik egy ilyen valószínűségi változó eloszlási felhőjének méretének és alakjának becslését ellipszoiddal (vagy kétdimenziós esetben ellipszissel) való közelítéssel. ${\mathbf {X}}\equiv {\mathbf {Y}}$ $\Sigma$ $\mathbf {X}$ ${\mathrm {cov}}({\mathbf {X}})$ $V(X)$

Kovarianciamátrixok tulajdonságai

Gyorsított képlet a kovariancia mátrix kiszámításához:

{\mathrm {cov}}({\mathbf {X}})={\mathbb {E}}\left[{\mathbf {X}}{\mathbf {X}}^({\top }}\right ]-{\mathbb {E}}[{\mathbf {X}}]\cdot {\mathbb {E}}\left[{\mathbf {X}}^({\top }}\right]

Egy véletlen vektor kovarianciamátrixa nemnegatív módon definiált [1] :

{\mathrm {cov}}({\mathbf {X}})\geq 0

Méretváltozás:

{\mathrm {cov}}\left({\mathbf {a}}^{{\top }}{\mathbf {X}}\right)={\mathbf {a}}^{{\top }}{ \mathrm {cov}}({\mathbf {X}}){\mathbf {a}},\;\forall {\mathbf {a}}\in {\mathbb {R}}^{n}

Ha véletlen vektorok és nem korrelálnak ( ), akkor $\mathbf {X}$ $\mathbf {Y}$ ${\mathrm {cov}}({\mathbf {X}},{\mathbf {Y}})={\mathbf {0}}$

{\mathrm {cov}}({\mathbf {X}}+{\mathbf {Y}})={\mathrm {cov}}({\mathbf {X}})+{\mathrm {cov}}( {\mathbf {Y)))

Affin transzformációs kovariancia mátrix :

{\mathrm {cov}}\left({\mathbf {A}}{\mathbf {X}}+{\mathbf {b}}\right)={\mathbf {A}}{\mathrm {cov}} ({\mathbf {X}}){\mathbf {A}}^{{\top }}

ahol egy tetszőleges méretű mátrix és . $\mathbf {A}$ $n\szer n$ ${\mathbf {b}}\in {\mathbb {R}}^{n}$

Az érvek átrendezése :

{\mathrm {cov}}({\mathbf {X}},{\mathbf {Y}})={\mathrm {cov}}({\mathbf {Y}},{\mathbf {X}})^ {{\top}}

A kovariancia mátrix minden argumentumban additív :

{\mathrm {cov}}({\mathbf {X}}_{1}+{\mathbf {X}}_{2},{\mathbf {Y}})={\mathrm {cov}}({ \mathbf {X}}_{1},{\mathbf {Y}})+{\mathrm {cov}}({\mathbf {X}}_{2},{\mathbf {Y}})

{\mathrm {cov}}({\mathbf {X}},{\mathbf {Y}}_{1}+{\mathbf {Y}}_{2})={\mathrm {cov}}({ \mathbf {X)),{\mathbf {Y}}_{1})+{\mathrm {cov}}({\mathbf {X}},{\mathbf {Y}}_{2})

Ha és függetlenek, akkor $\mathbf {X}$ $\mathbf {Y}$

{\mathrm {cov}}({\mathbf {X}},{\mathbf {Y}})={\mathbf {0}}

Feltételes kovariancia mátrix

Egy véletlen vektor kovarianciamátrixa az eloszlásának jellemzője. Egy (többváltozós) normális eloszlás esetén egy vektor átlaga és kovarianciamátrixa teljes mértékben meghatározza eloszlását. Egy véletlen vektor feltételes eloszlásának jellemzői egy másik véletlenvektor értékével a feltételes várakozás ( regressziós függvény ), illetve a feltételes kovariancia mátrix.

Legyen véletlen vektorok és legyen közös normális eloszlásuk matematikai elvárásokkal , kovarianciamátrixokkal és kovarianciamátrixszal . Ez azt jelenti, hogy a kombinált véletlen vektor többváltozós normális eloszlást követ egy elvárási vektorral és egy kovariancia mátrixszal, amely a következő blokkmátrixként ábrázolható $x$ $Y$ $\mu _{X},\mu _{Y}$ $V_{X}, V_{Y}$ $C_{{XY}}$ ${\boldsymbol Z}={\begin{bmatrix}{\boldsymbol X}\\{\boldsymbol Y}\end{bmatrix}}$ ${\boldsymbol \mu }_{{Z))={\begin{bmatrix}{\boldsymbol \mu }_{X}\\{\boldsymbol \mu }_{Y}\end{bmatrix)),$

${\boldsymbol V}_{Z}={\begin{bmatrix}{\boldsymbol V}_{X}&{\boldsymbol C}_{{XY}}\\{\boldsymbol C}_{{YX}} &{\boldsymbol V}_{{Y}}\end{bmatrix}}$ ahol $C_{{YX}}=C_{{XY}}^{T}$

Ekkor a véletlen vektor adott értékéhez a véletlen vektor normális eloszlású (feltételes) a következő feltételes elvárási és feltételes kovariancia mátrixszal $Y$ $x$

$E(Y|X=x)=\mu _{Y}+C_{{YX}}V_{X}^{{-1}}(x-\mu _{X}),\qquad V(Y| X=x)=V_{Y}-C_{{YX}}V_{X}^{{-1}}C_{{XY}}$

Az első egyenlőség a lineáris regressziós függvényt határozza meg (a vektor feltételes várakozásának függését a véletlen vektor adott x értékétől ), a mátrix pedig a regressziós együtthatók mátrixa. $Y$ $x$ $C_{{XY}}V^{{-1}}$

A feltételes kovariancia mátrix a vektor komponenseinek lineáris regresszióinak véletlen hiba kovariancia mátrixa . $Y$ $x$

Abban az esetben, ha egy közönséges valószínűségi változó (egykomponensű vektor), a feltételes kovariancia mátrix a feltételes variancia (lényegében a regresszió véletlen hibája a vektoron ). $Y$ $Y$ $x$

Jegyzetek

↑ 1 2 A. N. Shiryaev. 2. fejezet, 6. §. Random Variables II // Valószínűség. - 3. kiadás - Cambridge, New York, ...: MTSNMO, 2004. - T. 1. - P. 301. - 520 p.