V teorii pravděpodobnosti existuje několik různých pojetí konvergence náhodných veličin. Konvergence (v jednom z níže uvedených smyslů) posloupností náhodných veličin k nějaké limitující náhodné veličině je důležitý pojem v teorii pravděpodobnosti a její aplikace na statistiky a stochastické procesy. Například pokud je průměr n nezávislých, identicky rozložených náhodných veličin Yi, i = 1, …, n, dán
pak jako n jde do nekonečna, Xn konverguje v pravděpodobnosti (viz níže) ke společnému průměru μ náhodných proměnných Yi. Tento výsledek je známý jako slabý zákon velkých čísel. Jiné formy konvergence jsou důležité v jiných užitečných větách, včetně centrální limitní věty.
V následujícím textu předpokládáme, že (Xn) je posloupnost náhodných veličin a X je náhodná veličina a všechny z nich jsou definovány na stejném pravděpodobnostním prostoru (Ω, F, P).
Konvergence v distribuci
Předpokládejme, že F1, F2, … je posloupnost kumulativních distribučních funkcí odpovídajících náhodným proměnným X1, X2, …, a že F je distribuční funkce odpovídající náhodné proměnné X. Říkáme, že posloupnost Xn konverguje k X v distribuci, pokud
pro každé reálné číslo a, při kterém je F spojité. Protože F(a) = Pr(X ≤ a), znamená to, že pravděpodobnost, že hodnota X je v daném rozsahu, je velmi podobná pravděpodobnosti, že hodnota Xn je v tomto rozsahu, za předpokladu, že n je dostatečně velké. Konvergence v rozdělení je často označována přidáním písmene nad šipku označující konvergenci:
Konvergence v distribuci je nejslabší formou konvergence a někdy se jí říká slabá konvergence. Obecně z ní nevyplývá žádný jiný způsob konvergence. Konvergence v distribuci je však implikována všemi ostatními způsoby konvergence uvedenými v tomto článku, a proto je nejběžnější a často nejužitečnější formou konvergence náhodných proměnných. Je to pojem konvergence používaný v centrální limitní větě a (slabém) zákonu velkých čísel.
Užitečným výsledkem, který může být použit ve spojení se zákonem velkých čísel a centrální limitní větou, je, že pokud je funkce g: R → R spojitá, pak pokud Xn konverguje v distribuci k X, pak také g(Xn) konverguje v distribuci k g(X). (To může být prokázáno pomocí Skorokhodovy reprezentační věty.)
Konvergence v distribuci se také nazývá konvergence v právu, protože slovo „zákon“ se někdy používá jako synonymum pro „rozdělení pravděpodobnosti“.
Konvergence pravděpodobnosti
Říkáme, že posloupnost Xn konverguje k X v pravděpodobnosti, pokud
pro každé ε > 0. Konvergence v pravděpodobnosti je skutečně (pointwise) konvergence pravděpodobností. Vyberte libovolné ε > 0 a libovolné δ > 0. Nechť Pn je pravděpodobnost, že Xn je mimo toleranci ε z X. Pak, pokud Xn konverguje v pravděpodobnosti k X pak existuje hodnota N taková, že pro všechny n ≥ N, Pn je sám o sobě menší než δ.
Konvergence v pravděpodobnosti je často označována přidáním písmene ‚P‘ nad šipku označující konvergenci:
Konvergence v pravděpodobnosti je pojem konvergence používaný ve slabém zákoně velkých čísel.
Konvergence v pravděpodobnosti znamená konvergenci v rozložení. Pro prokázání je vhodné dokázat následující, jednoduché lemma:
Nechť X, Y jsou náhodné proměnné, c reálné číslo a ε > 0; pak
Pro každý ε > 0, vzhledem k předchozímu lemma, máme:
Vezmeme-li limit pro , Získáme:
Ale je kumulativní distribuční funkce , která je spojitá hypotézou, že je:
a tak, přičemž limit pro , Získáme:
Říkáme, že posloupnost Xn konverguje téměř jistě nebo téměř všude nebo s pravděpodobností 1 nebo silně k X, pokud
To znamená, že máte prakticky zaručeno, že se hodnoty Xn přiblíží hodnotě X v tom smyslu (viz téměř jistě), že události, pro které se Xn nepřiblíží k X, mají pravděpodobnost 0. Použijeme-li pravděpodobnostní prostor (Ω, F, P) a koncept náhodné proměnné jako funkce od Ω do R, je to ekvivalentní tvrzení
Téměř jistá konvergence implikuje konvergenci v pravděpodobnosti, a tudíž implikuje konvergenci v rozložení. Je to pojem konvergence používaný v silném zákonu velkých čísel.
kde operátor E označuje očekávanou hodnotu. Konvergence v rth průměr nám říká, že očekávání rth výkon rozdílu mezi Xn a X konverguje k nule.
Nejdůležitější případy konvergence v rth průměru jsou:
Konvergence v rth průměru, pro r > 0, implikuje konvergenci v pravděpodobnosti (podle Čebyševovy nerovnosti), zatímco pokud r > s ≥ 1, konvergence v rth průměru implikuje konvergenci v sth průměru. Tudíž konvergence v mean square implikuje konvergenci v průměru.
pak Sn konverguje téměř jistě tehdy a jen tehdy, pokud Sn konverguje v pravděpodobnosti.