Karhunen-Loeve tétel

Az oldal jelenlegi verzióját még nem ellenőrizték tapasztalt közreműködők, és jelentősen eltérhet a 2020. október 19-én felülvizsgált verziótól ; az ellenőrzéshez 1 szerkesztés szükséges .

A diszkretizációelmélet egyik fontos alapkérdése a jelek diszkrét leírásának térfogatának kérdése, vagyis a reprezentációra használt bázisfüggvények száma: $N$

a(t)=\sum _{{k=0}}^{{N-1}}\alpha _{{k}}\varphi _{{k}}(t)

Az optimális alap megtalálásához meg kell határoznia a jelek osztályát, amelyhez azt keresi, és be kell állítania ennek az osztálynak a helyreállítási pontosságát. A jelek leírásának statisztikai megközelítésében az egyes jelmegvalósítások ábrázolásának optimális dimenziós alapját általában azt az alapot tekintik, amelynél a realizációs együttesre átlagolt hibaarány minimális. Ebben az esetben a jelet bázisfüggvények összegeként ábrázoló hibanorma minimumának szükséges és elégséges feltételeit a Karhunen-Loev tétel határozza meg. $N$

Népszerű megfogalmazás

A hibanorma minimális értékét a jelek reprezentációjában egy hosszintervallumban akkor érjük el, ha az operátor saját függvényeit használjuk alapul, amelyek magja a jelek korrelációs függvénye : $T$ $R_{{a}}(t,\tau )$

\int _{{-{\frac {T}{2}}}}^{{{\frac {T}{2}}}}R_{{a}}(t,\tau )\varphi _{{ k}}(\tau )d\tau =\lambda _{{k}}\varphi _{{k}}(t)

a legnagyobb sajátértékeknek megfelelő . Ebben az esetben a hibaarány: $N$

\|\epsilon \|_{{min}}^{{2}}=\|a(t)-\sum _{{k=0}}^{{N-1}}\alpha _{{k }}\varphi _{{k}}(t)\|_{{min}}^{{2}}=\sum _{{k=N}}^{{\infty }}\lambda _{{ k}}

Ilyen dekompozíció a Karhunen-Loeve dekompozíció [1] [2] .

Alkalmazás

A véletlenszerű folyamatok elméletében a Karhunen-Loeve tétel (amelyet Kari Karhunen és Michel Loeve nevéhez fűzött ) egy véletlenszerű folyamat reprezentációja, mint ortogonális függvények végtelen lineáris kombinációja , hasonlóan a Fourier-sor ábrázolásához - a függvények szekvenciális ábrázolásához. korlátos intervallumon. Ellentétben a Fourier-sorral, ahol az együtthatók valós számok , és az ábrázolási bázis szinuszfüggvényekből (azaz eltérő gyakoriságú szinusz- és koszinuszfüggvényekből ) áll, a Karhunen-Loeve-tétel együtthatói valószínűségi változók, és az ábrázolási alap a folyamat. Az ábrázolásban használt ortogonális bázisfüggvények a folyamat kovarianciafüggvényét határozzák meg. Ha egy sztochasztikus folyamatot F véletlenszerű függvénynek tekintünk , azaz olyan folyamatnak, amelyben az [ a , b ] intervallumon lévő függvény F értéket vesz fel, akkor ez a tétel F véletlenszerű ortonormális kiterjesztésének tekinthető .

Központosított véletlenszerű folyamat { X t } t ∈ [ a , b ] (ahol a központosítás azt jelenti, hogy az E( X t ) matematikai elvárások léteznek, és egyenlők nullával a t paraméter minden értékére [ a , b ]-ból) , amely kielégíti a folytonosság műszaki feltételét, a következő formájú dekompozíciót engedi meg:

{\mathbf {X}}_{t}=\sum _{{k=1}}^{\infty }{\mathbf {Z}}_{k}e_{k}(t).

ahol Z k kölcsönösen nem korrelált valószínűségi változók , az e k függvények pedig folytonos valós függvények [ a , b ]-on , L ²-ben [ a , b ] ortogonálisak . Nem központosított folyamat esetén hasonló kiterjesztést kapunk az e k bázisban lévő elvárásfüggvény kiterjesztésével .

Ha a folyamat Gauss , akkor a Z k valószínűségi változók is Gauss - ok és függetlenek . Ez az eredmény általánosítja a Karhunen-Loeve transzformációkat . A [0,1] intervallumon végzett központosított sztochasztikus folyamat fontos példája a Wiener-folyamat , és a Karhunen-Loeve tétel segítségével kanonikus ortogonális reprezentációt kaphatunk. Ebben az esetben a bővítés szinuszos függvényekből áll. ${\mathbf {X}}_{t}$

A fenti dekompozíciókat Karhunen-Loeve dekompozíciónak vagy dekompozíciónak is nevezik (empirikus változat, azaz az eredeti numerikus adatok együtthatóival), főkomponens-analízisként , helyes ortogonális dekompozícióként vagy Hotelling - transzformációként .

Megfogalmazás

Fogalmazzuk meg az eredményt komplex értékű sztochasztikus folyamatok szerint. Az eredmények módosítás nélkül alkalmazhatók valós értékű folyamatokra, emlékezve arra, hogy egy valós szám komplex konjugátuma megegyezik önmagával.

X és Y véletlenszerű elemek esetén a skaláris szorzatot a képlet határozza meg

\langle {\mathbf {X}}|{\mathbf {Y}}\rangle =\operátornév {E}({\mathbf {X^{*}}}{\mathbf {Y}})

ahol * a komplex ragozási műveletet jelöli .

Másodrendű statisztikák

A pontszorzat jól definiált, ha mindkettőnek véges második momentuma van, vagy ha mindkettő négyzetes integrálható . Ne feledje, hogy a pontszorzat a kovarianciával és a korrelációval kapcsolatos . Különösen a nulla átlaggal rendelkező valószínűségi változók esetében a kovariancia és a pontszorzat megegyezik. Autokovariancia függvény $x$ $Y$ $K_{{\mathrm {XX}}}$

K_{{\mathrm {XX}}}(t,s)=\operátornév {Cov}[X(t),X(s)]=\langle {\mathbf {X}}_{t}|{\mathbf {X}}_{s}\rangle

{\displaystyle =\mathrm {E} \{[X(t)-\mu _{X}(t)]^{*}[X(s)-\mu _{X}(s)]\))

=\mathrm {E} \{X^{*}(t)X(s)\}-\mu _{X}^{*}(t)\mu _{X}(s)

=R_{\mathrm {XX} }(t,s)-\mu _{X}^{*}(t)\mu _{X}(s).

Ha az { X t } t folyamat középre van állítva, akkor

\mu _{X}(t)=0

minden t . Így a K XX autokovariancia megegyezik az R XX autokorrelációjával :

K_{\mathrm {XX} }(t,s)=R_{\mathrm {XX} }(t,s).

Vegye figyelembe, hogy ha { X t } t középre van állítva, és t 1 , ≤ t 2 , …, ≤ t N az [ a , b ] intervallum pontjai , ezért

\sum _{{k,\ell }}\operátornév {Cov}_{({\mathbf {X}}}}(t_{k},t_{\ell })=\operátornév {Var}\left(\ összeg _{{k=1}}^{N}{\mathbf {X}}_{k}\right)\geq 0.

tétel állítása

Tétel . Tekintsünk egy központosított sztochasztikus folyamatot egy intervallumra indexelve kovarianciafüggvénnyel . Tegyük fel, hogy a kovarianciafüggvény folytonos a változók halmazában . Ekkor egy pozitív határozott kernel, és Mercer tétele szerint az integrál operátor ( közel a Lebesgue-mértékhez -on ) rendelkezik a sajátvektorok ortonormális bázisával. Legyenek a nem nulla sajátértékeknek megfelelő sajátvektorok és $\{{\mathbf {X}}_{t}\}$ $t$ $[a,b]$ ${\mathrm {Cov}}_{{{\mathbf {X}}}}$ ${\mathrm {Cov}}_{{{\mathbf {X}}}}(t,s)$ $t,s$ ${\mathrm {Cov}}_{{{\mathbf {X}}}}$ $T$ $L^{2}[a,b]$ $[a,b]$ $\{e_{i}\}$ $T$

{\mathbf {Z}}_{i}=\int _{a}^{b}{\mathbf {X}}_{t}e_{i}(t)dt.

Ezután középre igazított ortogonális valószínűségi változók és $Z_{i}$

{\mathbf {X}}_{t}=\sum _{{i=1}}^{\infty }e_{i}(t){\mathbf {Z}}_{i}

a sorozat a középnégyzetben konvergál és egyenletesen -ben is . kívül $t$

\operátornév {Var}({\mathbf {Z}}_{i})=\operátornév {E}({\mathbf {Z}}_{i}^{2})=\lambda _{i}.

ahol a sajátvektornak megfelelő sajátérték . $\lambda _{i}$ $e_{i}$

Cauchy összegek

A tétel megfogalmazásában a definícióban szereplő integrál a valószínűségi változók Cauchy-összegeinek átlagos határaként fogható fel. $Z_{i}$

\sum _{{k=0}}^{{\ell -1}}{\mathbf {X}}_({\xi _{k}}}e_{i}(\xi _{k})( t_{{k+1}}-t_{k}),

ahol

a=t_{0}\leq \xi _{0}\leq t_{1}\leq \cdots \leq \xi _{{\ell -1}}\leq t_{n}=b

Speciális eset: Gauss-eloszlás

Mivel az együttesen Gauss-féle valószínűségi változók négyzetes átlaga Gauss-féle, és együttesen a Gauss-féle (központú) valószínűségi változók akkor és csak akkor függetlenek, ha ortogonálisak, arra a következtetésre juthatunk:

Tétel . A véletlen változók Gauss-eloszlásúak, és függetlenek, ha a kezdeti { X t } t folyamat is Gauss-féle. $Z_{i}$

Gauss esetben, mivel a valószínűségi változók függetlenek, biztosak lehetünk benne, hogy: $Z_{i}$

\lim _{{N\rightarrow \infty }}\sum _{{i=1}}^{N}e_{i}(t){\mathbf {Z}}_{i}(\omega )={ \mathbf {X}}_{t}(\omega )

majdnem biztosan.

Megjegyezzük, hogy a Mercer-tételt általánosítva az intervallumot helyettesíthetjük más kompakt terekkel , a Lebesgue-mértéket pedig a -ban támogatott Borel-mértékkel . $[a,b]$ $C$ $[a,b]$ $C$

Wiener process

A Wiener-folyamat a véletlenszerű folyamatok elméletében a Brown-mozgás vagy véletlenszerű séta matematikai modellje folytonos idővel. Itt egy kovarianciafüggvényű B ( t ) központú Gauss-folyamatként definiáljuk

{\mathrm {K}}_{{\mathrm {BB}}}(t,s)=\operátornév {Cov}(B(t),B(s))=\min(s,t).

Könnyen belátható, hogy a kovariancia sajátvektorok igen

e_{k}(t)={\sqrt {2}}\sin \left(k-{\frac {1}{2}}\right)\pi t

és a megfelelő sajátértékek

\lambda _{k}={\frac {4}{(2k-1)^{2}\pi ^{2}}}.

Ez lehetővé teszi számunkra, hogy a Wiener folyamat következő ábrázolását kapjuk:

Tétel . Van egy { W i } i sorozat független Gauss-féle valószínűségi változóknak nulla átlaggal és egységnyi szórással,

{\mathbf {B}}_{t}={\sqrt {2}}\sum _{{k=1}}^{\infty }{\mathbf {W}}_{k}{\frac {\ sin \left(k-{\frac {1}{2}}\right)\pi t}{\left(k-{\frac {1}{2}}\right)\pi }}.

A konvergencia egységes t -ben az L² normában úgy, hogy

\operátornév {E}\left({\mathbf {B}}_{t}-{\sqrt {2}}\sum _{{k=1}}^{n}{\mathbf {W}}_{ k}{\frac {\sin \left(k-{\frac {1}{2}}\right)\pi t}{\left(k-{\frac {1}{2}}\right)\ pi }}\jobbra)^{2}\jobbra 0

egységesen a t .

Használat

Felmerült, hogy a SETI projektnek Karhunen-Loeve transzformációt kellene használnia a nagyon széles spektrumú jelek detektálására. Hasonlóképpen, az adaptív optikai rendszerek néha Karhunen-Loeve függvényeket használnak a hullámfront fázisára vonatkozó információk visszanyerésére. (Dai 1996, JOSA A).

Lásd még

Linkek

I. I. Gikhman, A. V. Skorokhod, Bevezetés a véletlenszerű folyamatok elméletébe (elérhetetlen link) .- M .: Nauka, 1965.
B. Simon, Funkcionális integráció és kvantumfizika , Academic Press, 1979
K. Karhunen, Kari, Uber lineare Methoden in der Wahrscheinlichkeitsrechnung , Ann. Acad. sci. fennicae. Ser. AI Math.-Phys., 1947, no. 37, 1-79
M. Loev, Valószínűségelmélet , - M.: IL, 1962.
G. Dai, Modális hullámfront rekonstrukció Zernike polinomokkal és Karhunen-Loeve függvényekkel , JOSA A, 13, 6, 1996

Jegyzetek

↑ Bevezetés a digitális képfeldolgozásba, 1979 , p. 68.
↑ Jelelmélet, 1974 , p. 115.

Irodalom

Yaroslavsky L.P. Bevezetés a digitális képfeldolgozásba. - M . : Szovjet rádió, 1979. - 312 p.
Franks L. A jelek elmélete. - M . : Szovjet rádió, 1974. - 399 p.