Ve statistice a teorii pravděpodobnosti je kovarianční matice matice kovariancí mezi prvky vektoru. Je to přirozené zobecnění na vyšší rozměry konceptu rozptylu skalární náhodné proměnné.
Pokud položky ve sloupci vektoru
jsou náhodné proměnné, každá s konečným rozptylem, pak kovariance matice Σ je matice, jejíž (i, j) položka je kovariance
je očekávaná hodnota ith položky ve vektoru X. Jinými slovy, máme
Jako zobecnění rozptylu
Výše uvedená definice je rovnocenná maticové rovnosti
Tuto formu lze chápat jako zobecnění skalárního rozptylu do vyšších dimenzí. Připomeňme si, že pro skalární náhodnou proměnnou X
Matice se také často nazývá variance-kovariance matice, protože úhlopříčky jsou ve skutečnosti variance.
Konfliktní nomenklatury a notace
Nomenklatura se liší. Někteří statistici, po pravděpodobnostním Williamu Fellerovi, nazývají tuto matici rozptylem náhodného vektoru , protože se jedná o přirozené zobecnění vyšších rozměrů jednorozměrného rozptylu. Jiní ji nazývají kovarianční maticí, protože se jedná o matici kovariancí mezi skalárními složkami vektoru . Tedy
Nicméně, notace pro „cross-kovariance“ mezi dvěma vektory je standardní:
Zápis se nachází ve dvousvazkové knize Williama Fellera Úvod do teorie pravděpodobnosti a její aplikace, ale obě formy jsou zcela standardní a není mezi nimi žádná nejednoznačnost.
Pro a platí následující základní vlastnosti:
kde a jsou náhodné vektory, je náhodný vektor, je vektor, a jsou matice.
Tato kovarianční matice (i když velmi jednoduchá) je velmi užitečným nástrojem v mnoha velmi odlišných oblastech. Z ní lze odvodit transformační matici, která umožňuje zcela dekódovat data nebo z jiného úhlu pohledu najít optimální základ pro kompaktní reprezentaci dat (viz Rayleighův kvocient pro formální důkaz a dodatečné vlastnosti kovariančních matic).
Tomu se říká analýza základních komponent (PCA) ve statistice a Karhunen-Loèveova transformace (KL-transform) ve zpracování obrazu.
Které matice jsou matice kovariance
a skutečnost, že rozptyl libovolné náhodné veličiny s reálnou hodnotou je nezáporný, z toho okamžitě vyplývá, že pouze nezáporná-definitní matice může být kovarianční matice. Konverzační otázka zní, zda každá nezáporná-definitní symetrická matice je kovarianční matice. Odpověď zní „ano“. Abychom to viděli, předpokládejme, že M je p×p nezáporná-definitní symetrická matice. Z konečného-dimenzionálního případu spektrální věty vyplývá, že M má nezápornou symetrickou odmocninu, kterou nazvěme M1/2. Nechť je libovolná p×1 sloupec vektorem oceněná náhodná veličina, jejíž kovarianční matice je p×p identity matice. Pak
Rozptyl komplexní skalární náhodné proměnné s očekávanou hodnotou μ je konvenčně definován pomocí komplexní konjugace:
kde komplexní konjugát komplexního čísla je označena .
Pokud je sloupec-vektor komplexní-oceňují náhodné veličiny, pak vezmeme konjugát transponovat jak transpozice a konjugace, dostat čtvercovou matici:
kde označuje konjugát transponovat, který je použitelný pro případ skaláru, protože transponovat skaláru je stále skalár.
LaTeX poskytuje užitečné funkce pro práci s kovariančními maticemi. Ty jsou dostupné prostřednictvím balíčku extendedmath.
Odvození odhadu maximální pravděpodobnosti kovarianční matice vícerozměrného normálního rozdělení je možná překvapivě jemné.
Zahrnuje spektrální větu a důvod, proč může být lepší pohlížet na skalár jako na stopu matice 1 × 1 než jako na pouhý skalár.
Viz odhad kovariančních matic.