Gallup se narodil v chudé farmářské rodině v Jeffersonu v Iowě.
V roce 1918 vstoupil na univerzitu v Iowě a získal tam titul B. A. (1923), M. A. (1925) a Ph. D. z politologie (1928). Během studií v Iowě působil Gallup jako redaktor studentských novin The Daily Iowan. Jeho doktorská disertační práce nesla název Nová technika pro objektivní metody pro měření zájmu čtenářů o noviny.
Po vyučování v Iowě odešel v roce 1929 do čela žurnalistické školy na Drakeově univerzitě, odkud odešel v roce 1931, aby učil a prováděl výzkum na Northwestern University. O rok později nastoupil do reklamní agentury Young & Rubicam (Y&R), kde prováděl průzkumy veřejného mínění pro její klienty a stal se prvním ředitelem výzkumu trhu v tomto odvětví. U Y&R zůstal šestnáct let. Ještě v Y&R založil v roce 1935 Americký institut veřejného mínění.
V roce 1936 dosáhla jeho nová organizace národního uznání tím, že z odpovědí pouhých 5 000 respondentů správně předpověděla výsledek letošních prezidentských voleb, což je v rozporu s všeobecně uznávaným časopisem Literary Digest, jehož mnohem rozsáhlejší průzkum založený na více než dvou milionech vrácených dotazníků dospěl k nesprávnému výsledku. Nejenže volby provedl správně, ale také správně předpověděl výsledky průzkumu Literary Digest s použitím náhodného vzorku menšího než jejich, ale zvoleného tak, aby odpovídal.
O dvanáct let později zažila jeho organizace moment největší potupy, když předpověděla, že Thomas Dewey porazí ve volbách v roce 1948 Harryho S. Trumana o pět až 15 procentních bodů. Gallup věřil, že chyba byla způsobena hlavně ukončením jeho volebních průzkumů tři týdny před volebním dnem.
V roce 1958 Gallup seskupil všechny své průzkumy veřejného mínění pod organizaci The Gallup Organization. Gallup zemřel na infarkt ve svém letním sídle v Tschingelu, vesnici v Bernském Oberlandu ve Švýcarsku. Byl pohřben na hřbitově v Princetonu.