Slovo pravděpodobnost se od svého vzniku v souvislosti s hazardními hrami používá různými způsoby.
Existují dvě široké kategorie interpretací pravděpodobnosti: frekventanti hovoří o pravděpodobnostech pouze tehdy, když se zabývají dobře definovanými náhodnými experimenty. Relativní frekvence výskytu výsledku experimentu, když se experiment opakuje, je měřítkem pravděpodobnosti této náhodné události. Bayesové naopak přiřazují pravděpodobnosti jakémukoli tvrzení, i když se nejedná o náhodný proces, jako způsob, jak vyjádřit jeho subjektivní věrohodnost.
Epistemologická kontroverze
Zatímco frekvenčismus je široce přijímán jako vědecký nástroj, použití bayesovské pravděpodobnosti často vyvolává filozofickou debatu o tom, zda může přispět platnými zdůvodněními víry.
Bayesové poukazují na práci Ramsey a de Finetti jako prokazující, že subjektivní přesvědčení musí následovat zákony pravděpodobnosti, pokud mají být koherentní.
Použití bayesovské pravděpodobnosti zahrnuje upřesnění předchozí pravděpodobnosti. Ta může být získána z úvahy o tom, zda je požadovaná předchozí pravděpodobnost větší nebo menší než referenční pravděpodobnost spojená s urnovým modelem, nebo myšlenkovým experimentem. Problém je, že pro daný problém by se mohlo použít více myšlenkových experimentů a výběr jednoho je věcí úsudku. Různí lidé tak mohou přiřadit různé předchozí pravděpodobnosti. Problém „východu slunce“ ilustruje problém. Konkrétní verzí tohoto problému je problém referenční třídy.
Rozdíl v názorech má také mnoho důsledků pro metody, kterými je statistika praktikována, a pro způsob vyjadřování závěrů. Při porovnávání dvou hypotéz a při použití některých informací by frekvenční metody typicky vedly k odmítnutí nebo neodmítnutí původní hypotézy s určitým stupněm spolehlivosti, zatímco bayesovské metody by naznačovaly, že jedna hypotéza je pravděpodobnější než druhá.
Jako možné řešení přijímá eklektický pohled oba výklady: v závislosti na situaci volíme jeden ze dvou výkladů z pragmatických, nebo principiálních důvodů.
Matematika pravděpodobnosti může být rozvíjena na zcela axiomatickém základě, který je nezávislý na jakékoli interpretaci: viz články o teorii pravděpodobnosti a axiomy pravděpodobnosti pro podrobné zacházení.