Hebbova teorie

Tato teorie se často shrnuje jako „buňky, které spolu hoří, spolu i drátkují“, ačkoli jde o přílišné zjednodušení nervového systému, které nelze brát doslova, stejně jako přesně nereprezentuje původní Hebbovo tvrzení o změnách síly buněčného spojení. Tato teorie se běžně připomíná při vysvětlování některých typů asociativního učení, při němž současná aktivace buněk vede k výraznému zvýšení synaptické síly. Takové učení je známé jako Hebbovo učení.

Hebbovské engramy a teorie sestavování buněk

Hebbovská teorie se zabývá tím, jak se neurony mohou propojovat a vytvářet engramy. Hebbovy teorie o podobě a funkci buněčných sestav lze pochopit z následujících skutečností:

Gordon Allport předkládá další myšlenky týkající se teorie buněčné asociace a její úlohy při vytváření engramů, a to v souladu s konceptem autoasociace, který je popsán následovně:

Hebbovská teorie byla hlavním základem pro tradiční názor, že při analýze z holistické úrovně jsou engramy neuronální sítě nebo neuronální sítě.

Práce v laboratoři Erica Kandela poskytla důkazy o zapojení hebbovských mechanismů učení v synapsích u mořského plže Aplysia californica.

Experimenty s mechanismy hebbovské modifikace synapsí v centrální nervové soustavě obratlovců jsou mnohem obtížněji kontrolovatelné než experimenty s relativně jednoduchými synapsemi periferní nervové soustavy studované u mořských bezobratlých. Většina prací o dlouhodobých synaptických změnách mezi neurony obratlovců (jako je dlouhodobá potenciace) zahrnuje použití nefyziologické experimentální stimulace mozkových buněk. Některé z fyziologicky relevantních mechanismů modifikace synapsí, které byly studovány v mozcích obratlovců, se však zdají být příklady hebbovských procesů. Jedna taková studie podává přehled výsledků experimentů, které naznačují, že dlouhodobé změny v síle synapsí mohou být vyvolány fyziologicky relevantní synaptickou aktivitou fungující jak prostřednictvím hebbovských, tak nehebbovských mechanismů

Z hlediska umělých neuronů a umělých neuronových sítí lze Hebbův princip popsat jako metodu, která umožňuje určit, jak měnit váhy mezi modelovými neurony. Váha mezi dvěma neurony se zvyšuje, pokud se oba neurony aktivují současně – a snižuje, pokud se aktivují odděleně. Uzly, které mají tendenci být buď oba pozitivní, nebo oba negativní současně, mají silné pozitivní váhy, zatímco ty, které mají tendenci být opačné, mají silné negativní váhy.

Doporučujeme:  Stevan Harnad

Tento původní princip je pravděpodobně nejjednodušší formou výběru hmotnosti. To sice znamená, že jej lze poměrně snadno zakódovat do počítačového programu a použít k aktualizaci vah sítě, ale zároveň to omezuje množství aplikací hebbovského učení. Dnes se pod pojmem Hebbovo učení obecně rozumí určitá forma matematické abstrakce původního principu navrženého Hebbem. V tomto smyslu zahrnuje hebbovské učení úpravu vah mezi učícími se uzly tak, aby každá váha lépe reprezentovala vztah mezi uzly. Mnoho metod učení lze proto považovat za metody hebbovské povahy.

Následující popis Hebbova učení je formulový: (je možné použít i mnoho jiných popisů).

kde je váha spojení z neuronu do neuronu a vstup pro neuron . Všimněte si, že se jedná o vzorové učení (váhy se aktualizují po každém trénovacím příkladu). V Hopfieldově síti jsou spojení nastavena na nulu, pokud (nejsou povolena žádná reflexní spojení). U binárních neuronů (aktivace buď 0, nebo 1) by se spojení nastavila na 1, pokud by propojené neurony měly pro vzor stejnou aktivaci.

Další formulace zní:

kde je váha spojení z neuronu do neuronu , je počet trénovacích vzorů a je vstup pro neuron . Jedná se o učení po epochách (váhy se aktualizují po předložení všech trénovacích příkladů). V Hopfieldově síti jsou opět spojení nastavena na nulu, pokud (neexistují reflexní spojení).

Variantou hebbovského učení, která bere v úvahu jevy, jako je blokování a mnoho dalších jevů nervového učení, je matematický model Harryho Klopfa. Klopfův model reprodukuje velké množství biologických jevů a je také jednoduchý na implementaci.

Zobecnění a stabilita

Hebbovo pravidlo se často zobecňuje takto

nebo změna th synaptické váhy se rovná rychlosti učení krát th vstup krát postsynaptická odpověď . Často se uvádí případ lineárního neuronu,

Doporučujeme:  Valence effect

a zjednodušení z předchozí části předpokládá, že jak míra učení, tak vstupní váhy jsou rovny 1. Tato verze pravidla je zjevně nestabilní, protože v každé síti s dominantním signálem budou synaptické váhy exponenciálně růst nebo klesat. Lze však ukázat, že pro jakýkoli model neuronu je Hebbovo pravidlo nestabilní. Proto se v síťových modelech neuronů obvykle používají jiné teorie učení, například teorie BCM, Ojaovo pravidlo nebo zobecněný Hebbův algoritmus.