Az autoregresszív ( AR- ) modell ( angolul autoregresszív modell ) egy olyan idősor -modell , amelyben az idősorok pillanatnyi értékei lineárisan függnek ugyanazon sorozat korábbi értékeitől. Egy p -rendű autoregresszív folyamatot (AR( p )-folyamat) a következőképpen definiálunk
hol vannak a modell paraméterei (autoregressziós együtthatók), egy állandó (az egyszerűség kedvéért gyakran nullának tételezzük fel), és a fehér zaj .
A legegyszerűbb példa az elsőrendű autoregresszív AR(1) folyamat:
Ennél a folyamatnál az autoregresszív együttható megegyezik az elsőrendű autokorrelációs együtthatóval.
Egy másik egyszerű folyamat a Yule folyamat, egy AR(2) folyamat:
Ha bevezetünk egy lag operátort , akkor az autoregresszív modell a következőképpen ábrázolható
vagy
Az autoregresszív folyamat stacionaritása a karakterisztikus polinom gyökétől függ . Ahhoz, hogy a folyamat stacionárius legyen [1] , elegendő, ha a karakterisztikus polinom összes gyöke az egységkörön kívül van a komplex síkban .
Konkrétan az AR(1) folyamatra tehát ennek a polinomnak a gyöke , tehát a stacionaritási feltétel így írható fel , vagyis az autoregressziós együtthatónak (jelen esetben az autokorrelációs együtthatónak) szigorúan kisebbnek kell lennie, mint 1 modulo .
Egy AR(2)-folyamatnál kimutatható, hogy a stacionaritási feltételek alakja: .
A stacionárius AR-folyamatok lehetővé teszik a Wold-dekompozíciót - egy végtelen MA-folyamat formájában történő ábrázolást :
Az első tag az AR folyamat matematikai elvárása. Ha c=0, akkor a folyamat elvárása is nulla.
Megmutatható, hogy az AR(p) folyamat autokovariancia és autokorrelációs függvényei kielégítik a rekurzív relációkat:
Egy AR(1) folyamat legegyszerűbb esetben az átlag , a variancia és az autokorreláció .
Általános esetben a matematikai elvárás modellparamétereken keresztüli kifejezését fentebb jeleztük, azonban az idősorok szórásának kifejezése sokkal bonyolultabb. Megmutatható, hogy a sorozat varianciája és az autokovariancia vektor paraméterekben a következőképpen fejeződik ki:
,
ahol a paramétervektor, a sorrendi mátrix , amelynek elemei a következők szerint vannak definiálva. Az átlós elemek egyenlőek . Az átló feletti elemek egyenlőek , az átló alatti elemek egyenlőek . Itt érthető, hogy ha az index meghaladja a modell sorrendjét , akkor a megfelelő érték nullára lesz állítva.
Különösen egy AR(1) folyamat esetében a mátrix csak egy, tehát , amely megfelel a fenti képletnek.
A -folyamat esetében a másodrendű mátrix - a következőképpen definiálható: az első sor ( ;0), a második ( ;1). A fenti képlet alkalmazásával a következő kifejezést kaphatja a folyamat varianciájára:
A gyakorlatban általában nem használják a modellparaméterekkel kifejezett folyamatvarianciára vonatkozó képleteket, de kovarianciaként a következő kifejezést használják:
Az autoregresszív folyamat autokorrelációs függvénye az esetleges oszcillációkkal exponenciálisan csökken (az oszcillációk a karakterisztikus polinom komplex gyökeinek jelenlététől függenek). Ebben az esetben a k>p részleges autokorrelációs függvénye nulla. Ez a tulajdonság az AR-modell sorrendjének azonosítására szolgál az idősor minta részleges autokorrelációs függvényéből.
Egy AR(1) folyamat esetében az autokorrelációs függvény egy exponenciálisan csökkenő függvény (oszcillációk nélkül), ha a stacionaritási feltétel teljesül. Az első rendű részleges autokorrelációs függvény r, a magasabb rendűeknél pedig 0.
Az autokorrelációs függvény paritását figyelembe véve és az első p autokorrelációk ismétlődési relációját felhasználva megkapjuk a Yule-Walker egyenletrendszert [2] :
vagy mátrix formában
Ha valódi (ismeretlen) autokorrelációk helyett mintaautokorrelációkat használunk, akkor ismeretlen autoregressziós együtthatók becslését kapjuk. Ez a becslési módszer kimutatható, hogy egyenértékű a közönséges legkisebb négyzetek (OLS) módszerével . Ha a modell véletlenszerű hibái normális eloszlásúak, akkor ez a módszer egyenértékű a feltételes maximum likelihood módszerrel is . Ez utóbbi esetben a pontosabb becslések eléréséhez használhatjuk a teljes maximum likelihood módszert, amely a sorozat első tagjainak eloszlására vonatkozó információkat használ fel. Például egy AR(1) folyamat esetén az első tag eloszlását egyenlőnek vesszük az idősor feltétel nélküli eloszlásával (normál eloszlás matematikai várakozással és a sorozat feltétel nélküli varianciájával).
AR modellek használhatók a szezonalitás modellezésére. Az ilyen modelleket SAR (Seasonal AR) jelöléssel látják el. Például a negyedéves adatok ismeretében és a negyedéves szezonalitást feltételezve a következő SAR(4) modell állítható fel:
Valójában ez egy közönséges AR-modell, amely korlátozza a modell paramétereit (4-nél kisebb késleltetés esetén nullával egyenlő paraméterek). A gyakorlatban a szezonalitás kombinálható a hagyományos autoregresszióval, például:
Bizonyos esetekben hasznosak lehetnek a szezonális modellek, amelyekben a véletlen hiba bizonyos AR-folyamatoknak van kitéve:
Könnyen belátható, hogy egy ilyen modell operátor formában így írható:
Az ilyen modellt ún.