Legyen egy homogén Markov-lánc diszkrét idővel és megszámlálható számú állapottal. Jelöli
lépésenkénti átmeneti valószínűségek . Ha létezik olyan diszkrét eloszlás , hogy és
,akkor ergodikus eloszlásnak nevezzük , magát a láncot pedig ergodikusnak .
Legyen egy Markov-lánc diszkrét állapottérrel és egy átmeneti valószínűségi mátrixszal . Akkor ez a lánc akkor és csak akkor ergodikus
Ekkor az ergodikus eloszlás az egyetlen megoldás a rendszerre:
.Markov-láncok osztályozása | Az állapotok és|
---|---|
Állapot | |
Lánc |