Horkheimer se narodil ve Stuttgartu do asimilované židovské rodiny; kvůli rodičovskému nátlaku se zpočátku nevěnoval akademické kariéře, střední školu opustil v šestnácti letech, aby pracoval v otcově továrně. Po první světové válce se však zapsal na Mnichovskou univerzitu, kde studoval filozofii a psychologii. Následně se přestěhoval do Frankfurtu nad Mohanem, kde studoval u Hanse Cornelia. Tam se setkal s o mnoho let mladším Theodorem Adornem, s nímž navázal trvalé přátelství a plodný vztah založený na spolupráci.
V roce 1925 byl habilitován disertační prací s názvem Kantova kritika soudu jako zprostředkování mezi praktickou a teoretickou filozofií napsanou pod vedením Cornelia. V následujícím roce byl jmenován Privatdozentem. Když se v roce 1930 uvolnilo místo ředitele Institutu pro sociální výzkum, byl do této funkce zvolen. V následujícím roce začalo vydávání Zeitschrift für Sozialforschung Institutu, jehož redaktorem byl Horkheimer.
V roce 1933 byla jeho venia legendi zrušena novou nacistickou vládou a Institut byl uzavřen. Horkheimer emigroval do Švýcarska, odkud následujícího roku odjel do USA, kde Columbia University hostila Institut v exilu.
V roce 1940 Horkheimer obdržel americké občanství a přestěhoval se do Pacific Palisades, Kalifornie, kde jeho spolupráce s Adorno by výnos Dialektika osvícenství. Na rozdíl od Adorno, Horkheimer nebyl nikdy plodný spisovatel a v následujících dvaceti letech publikoval málo, i když pokračoval editovat studia filozofie a sociálních věd jako pokračování Zeitschrift. V roce 1949 se vrátil do Frankfurtu, kde ústav znovu otevřel v roce 1950. Mezi lety 1951 a 1953 Horkheimer byl rektorem na univerzitě ve Frankfurtu.
Do Ameriky se vrátil v letech 1954 a 1959, aby přednášel na univerzitě v Chicagu. V roce 1955 odešel do důchodu. Významnou osobností zůstal až do své smrti v Norimberku v roce 1973.
Horkheimerova kniha Eclipse of Reason se zabývá pojmem „rozum“ v dějinách západní filozofie. Horkheimer definuje pravý rozum jako racionalitu. Podrobně popisuje rozdíl mezi objektivním a subjektivním rozumem a konstatuje, že jsme se posunuli od objektivního k subjektivnímu. Objektivní rozum se zabývá univerzálními pravdami, které diktují, že jednání je buď správné, nebo nesprávné. Subjektivní rozum bere v úvahu situaci a společenské normy. Jednání, která vytvářejí nejlepší situaci pro jednotlivce, jsou „rozumná“ podle subjektivního rozumu. K přesunu od jednoho typu rozumu k druhému docházelo, když už myšlení nemohlo tyto objektivní pravdy pojmout nebo když je považovalo za bludy. Pod subjektivním rozumem ztrácejí pojmy svůj význam. Všechny pojmy musí být striktně funkční, aby byly rozumné. Protože vládne subjektivní rozum, stávají se ideály společnosti, například demokratické ideály, závislé na „zájmech“ lidí, místo aby byly závislé na objektivních pravdách.
V roce 1946 napsal, že Horkheimer byl silně ovlivněn nacistickým dědictvím v Německu. Nastínil, jak nacisté dokázali, aby jejich agenda vypadala „rozumně“, ale také vydal varování před možností, že se to bude opakovat. Horkheimer věřil, že neduhy moderní společnosti jsou způsobeny nepochopením rozumu: pokud lidé používají pravý rozum ke kritice svých společností, budou schopni identifikovat a řešit své problémy.