Markovův proces

Markovův proces, pojmenovaný po ruském matematikovi Andreji Markovovi, je matematický model pro náhodnou evoluci systému bez paměti. Často je vlastnost bytí ‚bez paměti‘ vyjádřena tak, že podmíněna současným stavem systému, jeho budoucnost a minulost jsou nezávislé.

Matematicky je Markovův proces vyjádřen jako pro každé n a

Termín Markovův řetězec se často používá pro označení diskrétního Markovova procesu. Viz také Markovův proces v kontinuálním čase.

Matematicky, pokud X(t), t > 0, je stochastický proces, Markovova vlastnost uvádí, že

Markovovy procesy jsou obvykle označovány jako (časově) homogenní, pokud

a jinak se označují jako (časově) nehomogenní (nebo (časově) nehomogenní). Homogenní Markovovy procesy, obvykle jednodušší než nehomogenní, tvoří nejdůležitější třídu Markovových procesů.

V některých případech zřejmě ne-markovské procesy mohou mít ještě markovské reprezentace, vytvořené rozšířením konceptu ‚současných‘ a ‚budoucích‘ stavů. Například, nechť X je ne-markovský proces. Pak definujte proces Y, tak, aby každý stav Y reprezentoval časový interval stavů X, tj. matematicky,

Pokud Y má Markovovu vlastnost, pak se jedná o Markovovu reprezentaci X. V tomto případě se X také nazývá Markovův proces druhého řádu. Markovovy procesy vyššího řádu jsou definovány analogicky.

Příkladem nemarkovského procesu s markovskou reprezentací je pohyblivá průměrná časová řada.

Doporučujeme:  Vadim Krutěckij