Narodil se v Nilsby ve Švédsku. V roce 1907 emigroval do USA a v roce 1912 nastoupil na University of North Dakota. V roce 1917 získal doktorát z fyziky na Yaleově univerzitě. V letech 1917 až 1934 pracoval v AT&T, poté se přesunul do Bellových telefonních laboratoří.
Jako inženýr v Bellových laboratořích se věnoval důležitým pracím v oblasti tepelného šumu („Johnson-Nyquistův šum“) a stability zpětnovazebních zesilovačů.
Jeho raná teoretická práce o stanovení požadavků na šířku pásma pro přenos informací, publikovaná v publikaci „Určité faktory ovlivňující rychlost telegrafu“ (Bell System Technical Journal, 3, 324-346, 1924), položila základy pro pozdější pokroky Clauda Shannona, které vedly k rozvoji teorie informace.
V roce 1927 Nyquist určil, že počet nezávislých pulsů, které by mohly být vysílány telegrafním kanálem za jednotku času, je omezen na dvojnásobek šířky pásma kanálu. Nyquist publikoval své výsledky v článku Jistá témata v Teorii telegrafního přenosu (1928). Toto pravidlo je v podstatě dvojkou toho, co je dnes známé jako Nyquistova–Shannonova vzorkovací věta.
Nyquist obdržel v roce 1960 IRE Medal of Honor za „zásadní příspěvky ke kvantitativnímu pochopení tepelného šumu, přenosu dat a negativní zpětné vazby“.
V roce 1954 odešel z Bellových laboratoří.
Nyquist zemřel v Harlingenu v Texasu 4. dubna 1976.