Matematická psychologie je přístup k psychologickému výzkumu, který je založen na matematickém modelování percepčních, kognitivních a motorických procesů a na stanovení pravidel podobných zákonům, která spojují kvantifikovatelné charakteristiky podnětů s kvantifikovatelným chováním. V praxi je „kvantifikovatelné chování“ často tvořeno „výkonem úlohy“.
Vzhledem k tomu, že kvantifikace chování je v tomto úsilí zásadní, je teorie měření ústředním tématem matematické psychologie.
Matematická psychologie proto úzce souvisí s psychometrií. Avšak tam, kde se psychometrie zabývá individuálními rozdíly (nebo populační strukturou) ve většinou statických proměnných, se matematická psychologie zaměřuje na procesní modely percepčních, kognitivních a motorických procesů odvozených z „průměrného jedince“. Navíc tam, kde psychometrie zkoumá stochastickou strukturu závislosti mezi proměnnými, jak je pozorována v populaci, se matematická psychologie téměř výhradně zaměřuje na modelování dat získaných z experimentálních paradigmat, a je proto ještě těsněji spjata s experimentální psychologií/kognitivní psychologií/psychonomií. Stejně jako výpočetní neurověda a ekonometrie používá teorie matematické psychologie často jako hlavní princip statistickou optimalitu, přičemž zřejmě předpokládá, že lidský mozek se vyvinul k optimálnímu řešení problémů. Ústřední témata kognitivní psychologie – omezená vs. neomezená kapacita zpracování, sériové vs. paralelní zpracování atd. – a jejich důsledky jsou ústředním tématem rigorózní analýzy v matematické psychologii.
Matematičtí psychologové působí v mnoha oborech psychologie, zejména v psychofyzice, vnímání, řešení problémů, rozhodování, učení, paměti a jazyku, souhrnně označovaných jako kognitivní psychologie, ale také např. v klinické psychologii, sociální psychologii a psychologii hudby.
Matematické modelování má v psychologii dlouhou tradici. Heinrich Weber (1795-1878) a Gustav Fechner (1801-1887) byli jedni z prvních, kteří úspěšně aplikovali matematickou techniku funkčních rovnic z fyziky na psychologické procesy, čímž založili obory experimentální psychologie obecně a v jejím rámci zejména psychofyziku. V té době v astronomii vědci mapovali vzdálenosti mezi hvězdami tak, že označovali přesný čas průchodu hvězdy křížem na dalekohledu. Z důvodu absence automatických registračních přístrojů moderní doby se tato měření času spoléhala výhradně na rychlost lidské reakce. Bylo zjištěno, že v časech naměřených různými astronomy existují malé systematické rozdíly, které poprvé systematicky zkoumal německý astronom Friedrich Bessel (1782-1846). Bessel sestavil osobní rovnice zkonstruované na základě měření základní rychlosti odezvy, které by anulovaly individuální rozdíly z astronomických výpočtů. Nezávisle na něm měřil reakční časy fyzik Hermann von Helmholtz, aby určil rychlost vedení nervů. Tyto dva směry práce se spojily ve výzkumu nizozemského fyziologa F. C. Donderse a jeho studenta J. J. de Jaagera, kteří rozpoznali potenciál reakčních dob pro víceméně objektivní kvantifikaci množství času, které vyžadují elementární mentální operace. Donders si představoval využití své mentální chronometrie k vědeckému odvození prvků komplexní kognitivní činnosti pomocí měření jednoduché reakční doby.
První psychologickou laboratoř založil v Německu Wundt, který hojně využíval Dondersovy myšlenky. Zjištění, která z laboratoře přišla, však bylo obtížné zopakovat, což bylo brzy připsáno metodě introspekce, kterou Wundt zavedl. Část problémů byla způsobena individuálními rozdíly v rychlosti reakce, které astronomové zjistili. Ačkoli se zdálo, že Wundt se o tyto individuální rozdíly nezajímá a soustředí se na studium obecné lidské mysli, Wundtova amerického studenta Jamese McKeena Catella tyto rozdíly fascinovaly a začal se jimi zabývat během svého pobytu v Anglii. Neúspěch Wundtovy metody introspekce vedl ke vzniku různých myšlenkových směrů. Wundtova laboratoř se zaměřila na vědomé prožívání člověka v souladu s prací Fechnera a Webera o intenzitě podnětů. Ve Velké Británii se pod vlivem antropometrického vývoje vedeného Francisem Galtonem zájem soustředil na individuální rozdíly mezi lidmi v psychologických proměnných, v souladu s Besselovou prací. Catell brzy převzal Galtonovy metody a pomohl položit základy psychometrie. Ve Spojených státech vznikl behaviorismus, který opovrhoval introspekcionismem a s ním spojeným výzkumem reakčního času, a obrátil těžiště psychologického výzkumu výhradně k teorii učení. Behaviorismus dominoval americké psychologii až do konce druhé světové války. V Evropě introspekce přežila v gestalt psychologii. Behaviorismus do značné míry upustil od vyvozování závěrů o duševních procesech a formální teorie většinou chyběly (s výjimkou zraku a sluchu. Během války se díky rozvoji techniky, matematické logiky a teorie spočitatelnosti, informatiky a matematiky a vojenské potřebě porozumět lidské výkonnosti a jejím omezením spojili experimentální psychologové, matematici, inženýři, fyzici a ekonomové. Z této směsice různých oborů vznikla matematická psychologie. Velký vliv na psychologické myšlení získal zejména vývoj v oblasti zpracování signálů, teorie informace, teorie lineárních systémů a filtrů, teorie her, stochastických procesů a matematické logiky.
Dva zásadní články o teorii učení v časopise Psychological Review pomohly etablovat tento obor ve světě, kterému stále dominovali behavioristé: Bushův a Mostellerův článek podnítil lineární operátorský přístup k učení a Estesův článek zahájil tradici vzorkování podnětů v psychologickém teoretizování. Tyto dva články představily první podrobné formální popisy dat z experimentů s učením.
V 50. letech 20. století došlo k rozmachu matematických teorií psychologických procesů, včetně Luceovy teorie volby, Tannerovy a Swetsovy teorie detekce signálů pro detekci lidských podnětů a Millerova přístupu ke zpracování informací. Do konce padesátých let se počet matematických psychologů zvýšil z pouhé hrstky na více než desetinásobek – nepočítaje v to psychometriky. Většina z nich byla soustředěna na univerzitách v Indianě, Michiganu, Pensylvánii a Stanfordu. Někteří z nich byli pravidelně zváni americkou Radou pro výzkum sociálních věd, aby vyučovali na letních seminářích matematiky pro sociální vědce na Stanfordově univerzitě a podporovali tak spolupráci.
Pro lepší vymezení oblasti matematické psychologie byly matematické modely z 50. let 20. století shromážděny v řadě svazků, které vydali Luce, Bush a Galanter: Dvě čítanky a tři příručky. Tato série svazků se ukázala jako užitečná pro rozvoj oboru. V létě 1963 se ukázala potřeba časopisu pro teoretické a matematické studie ze všech oblastí psychologie, s výjimkou prací, které byly převážně faktorově analytické. Iniciativa vedená R. C. Atkinsonem, R. R. Bushem, W. K. Estesem, R. D. Lucem a P. Suppesem vyústila ve vydání prvního čísla Journal of Mathematical Psychology v lednu 1964.
Pod vlivem rozvoje informatiky, logiky a teorie jazyků se v 60. letech 20. století modelování začalo více zabývat výpočetními mechanismy a zařízeními. Příkladem jsou tzv. kognitivní architektury (např. systémy produkčních pravidel, ACT-R) a také konekcionistické systémy nebo neuronové sítě.
Vlivní matematičtí psychologové
Důležité teorie a modely
Vjemy, vnímání a psychofyzika
Skenování paměti, vizuální vyhledávání
Časopisy a organizace
Ústředními časopisy jsou Journal of Mathematical Psychology a British Journal of Mathematical and Statistical Psychology. V oboru se konají dvě výroční konference, výroční zasedání Společnosti pro matematickou psychologii v USA a výroční zasedání Evropské skupiny pro matematickou psychologii (EMPG).