Ve statistice se na data časových řad obvykle aplikují autoregresivní modely klouzavého průměru (ARMA), někdy nazývané Box-Jenkinsovy modely podle George Boxe a G.
Vzhledem k časové řadě dat Xt je model ARMA nástrojem pro pochopení a snad i předpovídání budoucích hodnot v této řadě. Model se skládá ze dvou částí, autoregresivní (AR) části a pohyblivé průměrné (MA) části. Model je pak obvykle označován jako model ARMA(p,q), kde p je pořadí autoregresivní části a q je pořadí pohyblivé průměrné části (jak je definováno níže).
Zápis AR(p) odkazuje na autoregresivní model objednávky p. Model AR(p) je psán
kde jsou parametry modelu, je konstanta a je chybový výraz (viz níže). Konstantní výraz je mnoha autory pro zjednodušení vynechán.
Autonomní model je v podstatě nekonečný filtr impulsní odezvy, na kterém je umístěna nějaká další interpretace.
AR(1)-proces je dán
kde je proces bílého šumu s nulovým průměrem a rozptylem .
(Poznámka: Dolní index byl vynechán.) Proces je kovariance-stacionární pokud . Pokud pak vykazuje jednotkovou odmocninu a může být také považován za náhodnou procházku, která není kovariance-stacionární. Jinak je výpočet očekávání přímočarý. Za předpokladu kovariance-stacionárity dostaneme
kde je průměr.
Pro c = 0 pak průměr = 0 a rozptyl se zjistí jako:
Autokovariance je dána
Lze vidět, že funkce autokovariance se rozkládá s dobou rozkladu [vidět to, psát kde je nezávislý na . Pak si všimněte, že a zápas to exponenciální zákon rozkladu ]
Funkce spektrální hustoty je inverzní Fourierova transformace funkce autokovariance. V diskrétních termínech to bude diskrétní-čas inverzní Fourierova transformace:
Tento výraz obsahuje aliasing kvůli diskrétní povaze , který se projevuje jako cosinus termín ve jmenovateli. Pokud předpokládáme, že doba vzorkování () je mnohem menší než doba rozpadu (), pak můžeme použít spojitost aproximace na :
který dává Lorentzianův profil pro spektrální hustotu:
kde je úhlová frekvence spojená s dobou útlumu .
Alternativní výraz pro lze odvodit tak, že v definiční rovnici nejprve dosadíme pro. Pokračování tohoto procesu N krát dává
Pro N blížící se nekonečnu, se přiblíží k nule a:
Je vidět, že je bílý šum konvolutovaný s jádrem plus konstantní průměr. Podle centrální limitní věty bude normálně distribuován stejně jako kterýkoli vzorek, jehož doba rozpadu je mnohem delší než doba rozpadu autokorelační funkce.
Výpočet parametrů AR
Model AR(p) je dán rovnicí
Je založen na parametrech, kde i = 1, …, p. Tyto parametry lze vypočítat pomocí Yule-Walkerových rovnic:
kde m = 0, … , p, což dává p + 1 rovnic. je autokorelační funkce X, je směrodatná odchylka vstupního šumového procesu a δm je Kroneckerova delta funkce.
Protože poslední část rovnice je nenulová pouze v případě, že m = 0, rovnice je obvykle řešena reprezentací jako matice pro m > 0, tedy získáním rovnice
řešení všech . Pro m = 0 mít
který nám umožňuje řešit .
Rovnice definující AR proces je
Vynásobení obou stran pomocí Xt-m a s ohledem na očekávané hodnoty výnosů
Nyní podle definice autokorelační funkce. Hodnoty šumové funkce jsou na sobě nezávislé a Xt − m je nezávislé na εt, kde m je větší než nula. Pro m ≠ 0, . Pro m = 0,
který přináší Yule-Walkerovy rovnice:
Zápis MA(q) odkazuje na klouzavý průměrný model objednávky q:
kde θ1, …, θq jsou parametry modelu a εt, εt-1,… jsou opět chybové výrazy. Model s pohyblivým průměrem je v podstatě filtr s konečnou impulsní odezvou s nějakou další interpretací.
Autoregresivní klouzavý průměrný model
Zápis ARMA(p, q) odkazuje na model s p autoregresivními výrazy a q klouzavými průměrnými výrazy. Tento model obsahuje modely AR(p) a MA(q),
Poznámka o chybových podmínkách
Chybové výrazy εt jsou obecně považovány za nezávislé náhodné proměnné s identickým rozložením vzorkované z normálního rozdělení s nulovým průměrem: εt ~ N(0,σ2), kde σ2 je
rozptyl. Tyto předpoklady mohou být oslabeny, ale tím se změní vlastnosti modelu. Zejména změna předpokladu i.i.d. by znamenala dosti zásadní rozdíl.
Specifikace z hlediska obsluhy zpoždění
V některých textech budou modely specifikovány z hlediska lag operátora L. V těchto pojmech je pak model AR(p) dán
kde φ představuje polynom
Model MA(q) je dán
kde θ představuje polynom
A konečně, kombinovaný model ARMA(p, q) je dán
Modely ARMA obecně mohou být po výběru p a q vybaveny regresí nejmenších čtverců, aby se našly hodnoty parametrů, které minimalizují dobu chyby. Obecně se považuje za osvědčený postup najít nejmenší hodnoty p a q, které poskytují přijatelnou shodu s daty. Pro čistý model AR pak mohou být použity Yule-Walkerovy rovnice, které poskytují shodu.
Závislost Xt na minulých hodnotách a chybových hodnotách εt se předpokládá lineární, pokud není uvedeno jinak. Pokud je závislost nelineární, model se specificky nazývá nelineární klouzavý průměr (NMA), nelineární autoregresivní (NAR) nebo nelineární autoregresivní klouzavý průměr (NARMA).
Dalším zobecněním je víceúrovňový autoregresivní (MAR) model. Model MAR je indexován uzly stromu, zatímco standardní (diskrétní čas) autoregresivní model je indexován celými čísly. Seznam odkazů naleznete ve víceúrovňovém autoregresivním modelu.