Wat is Hopfield Network?

Wat is een Hopfield Network eigenlijk?

Stel je voor: je ziet een vaag silhouet van een bekende — misschien half in de schaduw — en meteen weet je: dat is je buurvrouw. Je hersenen vullen automatisch de ontbrekende details aan op basis van wat je al kent. Een Hopfield Network doet iets vergelijkbaars, maar dan met data.

Het is een type neuraal netwerk dat patronen kan onthouden en terughalen — zelfs als je een onvolledige of beschadigde versie van dat patroon aanbiedt. Ontwikkeld in 1982 door natuurkundige John Hopfield, was dit één van de eerste modellen die liet zien hoe netwerken van kunstmatige neuronen informatie kunnen opslaan en herinneren. Denk aan het als een digitaal geheugen met zelfreparerend vermogen.

Hoe werkt zo'n netwerk?

Een Hopfield Network bestaat uit een groep neuronen die allemaal met elkaar verbonden zijn — geen lagen zoals bij moderne netwerken, maar één grote kring waarin elk neuron met elk ander neuron praat. Elk neuron kan 'aan' of 'uit' zijn (een 1 of een 0), en samen vormen al die aan-uit-standen een patroon.

De training werkt zo: je laat het netwerk een paar patronen zien (bijvoorbeeld gezichten, letters of vormen). Het netwerk past de verbindingen tussen neuronen zo aan dat deze patronen 'stabiele toestanden' worden — punten waar het netwerk comfortabel op uitkomt en blijft hangen.

Straks, als je een vervuild of half patroon invoert — bijvoorbeeld een letter met vlekken erop — begint het netwerk te 'rollen' naar de dichtstbijzijnde stabiele toestand. Het vult ontbrekende stukken aan en corrigeert fouten, totdat het bij het originele patroon uitkomt. Alsof je een knikker in een landschap met kuiltjes laat rollen: die rolt vanzelf naar het dichtstbijzijnde kuiltje.

Een praktisch voorbeeld

Stel, je traint een Hopfield Network met tien letters van het alfabet. Je laat het de A, B, C enzovoort zien — elk als een grid van zwart-wit pixels. Het netwerk past zijn verbindingen aan zodat die letters stabiele herinneringen worden.

Straks toon je het een half uitgewiste B: een paar pixels zijn weg, anderen zijn verkeerd. Het netwerk activeert z'n neuronen, checkt welke stabiele toestand het dichtst in de buurt is, en herstelt de letter naar de complete B. Het 'herinnert' de originele vorm.

Dit werkt omdat het netwerk tijdens training een soort landschap van energie heeft gebouwd, waarbij elk geleerd patroon een dal is. Bij het terughalen rolt het netwerk gewoon naar het dichtstbijzijnde dal.

Waar kom je het tegen?

Hopfield Networks worden tegenwoordig niet meer vaak in productie gebruikt — moderne netwerken zoals transformers en convolutionele netwerken zijn veel krachtiger. Maar je ziet het concept nog wel terug in:

• Patroonherkenning-onderzoek: vooral als inspiratie voor geheugenmodellen

• Optimalisatieproblemen: het netwerk kan ook gebruikt worden om de beste oplossing uit een groot aantal mogelijkheden te vinden

• Neurowetenschap: als model om te begrijpen hoe het menselijk geheugen zou kunnen werken

• Educatief materiaal: veel AI-cursussen gebruiken Hopfield Networks om het basisprincipe van neurale netwerken uit te leggen

John Hopfield won in 2024 samen met Geoffrey Hinton de Nobelprijs voor Natuurkunde, deels voor dit baanbrekende werk. Het was een van de eerste bruggen tussen natuurkunde, wiskunde en kunstmatige intelligentie.

Waarom is dit belangrijk voor jou?

Als je begrijpt hoe een Hopfield Network werkt, snap je meteen het basisidee achter veel moderne AI: netwerken die informatie niet opslaan als regels of tabellen, maar als patronen in verbindingen tussen eenheden. Het legt de fundering voor latere ontwikkelingen zoals deep learning. En het laat zien dat het 'geheugen' van een AI niet op één plek zit, maar verspreid door het hele netwerk — net zoals in je eigen brein geen enkel neuron verantwoordelijk is voor één specifieke herinnering.