Hebbovská teorie

Teorie je často shrnuta jako „buňky, které spolu hoří, spojují se“, i když se jedná o přílišné zjednodušení nervového systému, které nelze brát doslovně, stejně jako o nepřesné reprezentaci původního Hebbova výroku o změnách síly buněčné konektivity. Teorie je běžně evokována k vysvětlení některých typů asociativního učení, ve kterém simultánní aktivace buněk vede k výraznému zvýšení synaptické síly. Takové učení je známé jako Hebbovo učení.

Hebbiánské engramy a teorie sestavení buněk

Hebbovská teorie se týká toho, jak se mohou neurony spojit, aby se staly engramy. Hebbovy teorie o formě a funkci buněčných sestav lze chápat z následujícího:

Gordon Allport pózuje další nápady týkající se teorie buněčné sestavy a její role při vytváření engramů, v souladu s konceptem auto-sdružení, popsané takto:

Hebbovská teorie byla primárním základem konvenčního názoru, že při analýze z holistické úrovně jsou engramy neuronové sítě nebo neuronové sítě.

Práce v laboratoři Erica Kandela poskytla důkazy pro zapojení hebbiánských učebních mechanismů v synapsích v mořské plži Aplysia californica.

Pokusy na mechanismech modifikace hebbiánských synapsí v centrálním nervovém systému synapsí obratlovců jsou mnohem obtížněji kontrolovatelné než experimenty s relativně jednoduchými synapsemi periferního nervového systému studované u mořských bezobratlých. Velká část práce na dlouhotrvajících synaptických změnách mezi neurony obratlovců (jako je dlouhodobá potenciace) zahrnuje použití nefyziologické experimentální stimulace mozkových buněk. Nicméně některé fyziologicky relevantní mechanismy modifikace synapsí, které byly studovány v mozcích obratlovců, se zdají být příklady hebbiánských procesů. Jedna taková studie hodnotí výsledky experimentů, které naznačují, že dlouhotrvající změny v synaptických silách mohou být vyvolány fyziologicky relevantní synaptickou aktivitou pracující prostřednictvím hebbiánských i jiných než hebbiánských mechanismů.

Z hlediska umělých neuronů a umělých neuronových sítí lze Hebbův princip popsat jako metodu určování toho, jak měnit váhy mezi modelovými neurony. Váha mezi dvěma neurony se zvyšuje, pokud se oba neurony aktivují současně – a snižuje, pokud se aktivují odděleně. Uzly, které mají tendenci být buď oba pozitivní nebo oba negativní současně, mají silné pozitivní váhy, zatímco ty, které mají tendenci být opačné, mají silné negativní váhy.

Tento původní princip je asi nejjednodušší formou výběru váhy. I když to znamená, že může být poměrně snadno zakódován do počítačového programu a použit k aktualizaci vah pro síť, zakazuje to také počet aplikací Hebbianova učení. Dnes termín Hebbianovo učení obecně odkazuje na nějakou formu matematické abstrakce původního principu navrženého Hebbem. V tomto smyslu Hebbianovo učení zahrnuje úpravu vah mezi uzly učení tak, aby každá váha lépe reprezentovala vztah mezi uzly. Jako takové lze mnoho metod učení považovat za poněkud hebbianskou povahu.

Níže je formulový popis Hebbian učení: (Všimněte si, že mnoho dalších popisů jsou možné)

kde je váha spojení neuronu s neuronem a vstup pro neuron . Všimněte si, že se jedná o vzorové učení (váhy se aktualizují po každém tréninkovém příkladu). V Hopfieldově síti jsou spojení nastavena na nulu pokud (žádné reflexivní spojení není povoleno). S binárními neurony (aktivace buď 0 nebo 1) by spojení byla nastavena na 1 pokud připojené neurony mají stejnou aktivaci pro vzor.

Další formulový popis je:

kde je váha spojení z neuronu na neuron , je počet tréninkových vzorů, a th vstup pro neuron . To je učení podle epoch (váhy aktualizovány po všech tréninkových příkladů jsou uvedeny). Opět, v Hopfield síti, spojení jsou nastaveny na nulu pokud (žádné reflexivní spojení).

Variací hebbovského učení, která zohledňuje jevy jako je blokování a mnoho dalších neuronových jevů učení, je matematický model Harryho Klopfa. Klopfův model reprodukuje velké množství biologických jevů a je také snadno implementovatelný.

Generalizace a stabilita

Hebbovo pravidlo je často zobecňováno jako

nebo změna t synaptické hmotnosti je rovna rychlosti učení krát t vstup krát postsynaptická odpověď . Často citovaný je případ lineárního neuronu,

a zjednodušení předchozího oddílu předpokládá rychlost učení i vstupní váhy 1. Tato verze pravidla je jasně nestabilní, protože v každé síti s dominantním signálem synaptické váhy exponenciálně vzrostou nebo poklesnou. Nicméně lze ukázat, že pro jakýkoliv neuronový model je Hebbovo pravidlo nestabilní. Proto síťové modely neuronů obvykle používají jiné teorie učení, jako je teorie BCM, Ojovo pravidlo nebo zobecněný Hebbův algoritmus.