Hopfieldova síť je forma rekurentní umělé neuronové sítě, kterou vynalezl John Hopfield. Hopfieldovy sítě slouží jako obsahově adresovatelné paměťové systémy s binárními prahovými jednotkami. Je zaručeno, že konvergují do stabilního stavu.
Jednotky v Hopfieldových sítích jsou binární prahové jednotky, tj. jednotky nabývají pouze dvou různých hodnot pro své stavy a hodnota je určena tím, zda vstup jednotek překročí jejich prahovou hodnotu. Hopfieldovy sítě mohou mít buď jednotky, které nabývají hodnot 1 nebo -1, nebo jednotky, které nabývají hodnot 1 nebo 0. Dvě možné definice pro aktivaci jednotky i jsou tedy:
Spojení v síti Hopfield mají dvě omezení:
Hopfieldovy sítě mají skalární hodnotu spojenou s každým stavem sítě označovaným jako „energie“, E, sítě, kde:
Tato hodnota se nazývá „energie“, protože definice zajišťuje, že pokud jsou jednotky náhodně zvoleny k aktualizaci jejich aktivace, bude síť konvergovat do stavů, které jsou lokálními minimy v energetické funkci (která je považována za Lyapunovovu funkci). Pokud je tedy stav lokálním minimem v energetické funkci, je to stabilní stav pro síť.
Trénování Hopfieldovy sítě zahrnuje snížení energie stavů, které by si síť měla „pamatovat“. To umožňuje, aby síť sloužila jako obsahově adresovatelný paměťový systém, to znamená, že síť konverguje do „zapamatovaného“ stavu, pokud je jí dána pouze část stavu. Například pokud trénujeme Hopfieldovu síť s pěti jednotkami tak, aby stav (1, 0, 1, 0, 1) byl energetickým minimem, a dáme síti stav (1, 0, 0, 0, 1), do kterého se bude konvergovat (1, 0, 1, 0, 1). Síť je tedy správně trénována, pokud energie stavů, které by si síť měla pamatovat, jsou lokální minima.
J. J. Hopfield, „Neurální sítě a fyzikální systémy s emergentními kolektivními výpočetními schopnostmi“, Proceedings of National Academy of Sciences, vol. 79 no. 8 pp. 2554-2558, April 1982. PNAS Reprint (Abstract) PNAS Reprint (PDF)