A Markov-folyamat olyan véletlenszerű folyamat , amelynek fejlődése az időparaméter bármely adott értéke után nem függ az azt megelőző evolúciótól , feltéve, hogy a folyamat értéke ebben a pillanatban rögzített (a folyamat „jövője” nem függ a „múltról” egy ismert „jelennel”, egy másik értelmezés ( Wentzel ): A folyamat „jövője” csak a „jelen” keresztül függ a „múlttól”.
A Markov-folyamat egy elsőrendű autoregresszív AR(1): .
A Markov-lánc egy Markov-folyamat speciális esete, amikor az állapottere diszkrét (azaz legfeljebb megszámlálható) [1] .
A Markov-folyamatot meghatározó tulajdonságot általában Markov-tulajdonságnak nevezik; először A. A. Markov fogalmazta meg , aki 1907-es munkáiban kezdeményezte a függő vizsgálatok sorozatainak és a hozzájuk kapcsolódó valószínűségi változók összegének tanulmányozását. Ez a kutatási irány a Markov-láncok elmélete .
Azonban már L. Bachelier munkájában látható egy kísérlet arra, hogy a Brown-mozgást Markov-folyamatként kezeljék, amely kísérlet Wiener 1923-as kutatása után kapott igazolást. .
A folytonos idejű Markov-folyamatok általános elméletének alapjait Kolmogorov fektette le .
Legyen egy valószínűségi tér valamilyen ( részben rendezett ) halmaz szerint szűrve ; és legyen egy mérhető tér . A szűrt valószínűségi téren definiált véletlenszerű folyamatot úgy tekintjük, hogy kielégíti a Markov-tulajdonságot , ha minden és esetén
A Markov-folyamat egy véletlenszerű folyamat, amely természetes szűréssel kielégíti a Markov - tulajdonságot .
Ha egy és diszkrét halmaz , a definíció újrafogalmazható:
.Vegyünk egy egyszerű példát egy Markov-sztochasztikus folyamatra. Egy pont véletlenszerűen mozog az x tengely mentén. A t = 0 időpontban a pont az origóban van, és egy másodpercig ott is marad. Egy másodperccel később egy érmét dobnak - ha a címer kiesett, akkor az X pont egy hosszegységgel jobbra, ha farok - balra mozog. Egy másodperccel később az érmét újra feldobják, és ugyanazt a véletlenszerű mozgást hajtják végre, és így tovább. A pont helyzetének megváltoztatásának folyamata („ vándorlás ”) egy véletlenszerű folyamat diszkrét idővel ( t = 0, 1, 2, …) és megszámlálható állapothalmazzal. Egy ilyen véletlenszerű folyamat Markov, mivel a pont következő állapota csak a jelenlegi (jelenlegi) állapottól függ, és nem függ a múltbeli állapotoktól (nem mindegy, hogy a pont milyen úton és mennyi időre jutott el az aktuális koordinátára).
Dyakonova E. E. Elágazási folyamatok Markov véletlenszerű környezetben //Diskret. Mat., 26:3 (2014), 10–29