Neurale netwerken & deep learning

De knop die bepaalt of een neuron in een neuraal netwerk 'vuurt' — vergelijkbaar met hoe jouw hersencellen beslissen of ze een signaal doorgeven of niet.

Een slimme manier om een AI-model steeds een beetje bij te stellen tijdens het leren, zonder dat je van tevoren hoeft in te stellen hoe grote stappen het neemt.

Een geheugenefficiënte variant van Adam-optimalisatie die grote AI-modellen traint zonder je computergeheugen te overbelasten — ideaal voor wie met beperkte resources werkt.

Een slim trucje waarmee een neuraal netwerk tijdens training automatisch grote stappen neemt waar het snel leert, en kleine stapjes waar het voorzichtig moet zijn.

Een slimme trainingsmethode voor AI-modellen die de leerstap voor elke parameter automatisch aanpast — alsof je bij het fietsen leert harder te trappen op steile stukken en zachter op vlakke stukken.

Een slimme manier om een neuraal netwerk te trainen waarbij het model niet te complex wordt. AdamW combineert snelle aanpassingen met een ingebouwde rem tegen overcomplicatie.

Een verschuiving-parameter in een neuraal netwerk die ervoor zorgt dat neuronen ook actief kunnen worden als alle invoer nul is — denk aan het startpunt van een lijn in een grafiek.

Een laag in een neuraal netwerk: een rij neuronen die samen informatie omzetten. Net zoals een fabriekslijn waarbij elk station een eigen taak heeft.

Een slimme truc waarmee een AI-model sneller leert door niet alleen naar de huidige fout te kijken, maar ook een beetje richting te houden van eerdere stappen — zoals een bowlingbal die eenmaal in beweging blijft rollen.

Een AI-neuron is een virtuele rekenunit in een neuraal netwerk die binnenkomende getallen weegt, optelt en daar een nieuw getal van maakt — het digitale equivalent van een hersencel.

Een getal dat bepaalt hoe sterk het signaal van het ene neuron doorkomt bij het volgende — zoals een volumeknop die je harder of zachter zet.

Een baanbrekend neuraal netwerk uit 2012 dat beeldherkenning revolutionair beter maakte en het startpunt vormde voor de huidige AI-explosie.

Een techniek waarmee AI-modellen zich kunnen 'focussen' op de belangrijkste delen van informatie, net zoals jij je aandacht richt op bepaalde woorden in een tekst.

Een neuraal netwerk dat data comprimeert naar een compacte code en vervolgens weer probeert te reconstrueren — alsof je een foto eerst samendrukt tot een paar getallen en dan terugvertaalt naar een nieuwe foto.

Een techniek in neurale netwerken die een groep getallen vervangt door hun gemiddelde, zodat een netwerk zich kan focussen op wat gemiddeld belangrijk is in plaats van op extreme details.

Een axon is de verbinding tussen kunstmatige neuronen in een neuraal netwerk — net zoals je zenuwbanen in je hersenen signalen doorgeven, zo sturen deze verbindingen informatie door van de ene laag neuronen naar de volgende.

Een techniek die tijdens het trainen van een neuraal netwerk de tussenresultaten 'normaliseert', zodat het model sneller en stabieler leert — vergelijkbaar met het bijstellen van ingrediënten in een recept terwijl je kookt.

Een type neuraal netwerk dat patronen leert door te 'brainstormen' met zichzelf — alsof het willekeurig ideeën uitprobeert tot het snapt wat bij elkaar hoort.

Een neuraal netwerk dat niet alleen herkent wát er in een plaatje staat, maar ook hóe dingen ten opzichte van elkaar staan — zodat een gezicht ondersteboven nog steeds een gezicht is.

Een tussentijdse momentopname van een AI-model tijdens de training, zodat je later vanaf dat punt kunt verder trainen of terug kunt naar een eerdere versie.

Een wiskundige operatie die patronen in data herkent door kleine filters over bijvoorbeeld een afbeelding te schuiven — zo leert AI om randen, vormen en later complete objecten te detecteren.

Een neuraal netwerk dat patronen herkent in afbeeldingen door systematisch kleine gebieden te scannen — zoals je ogen een foto afzoeken.

Een slim trucje om tijdens het trainen van een AI-model de 'stapgrootte' steeds te verkleinen volgens een golvend patroon, zodat het model niet voorbij het optimale punt schiet.

Een mechanisme waarmee een AI-model informatie uit twee verschillende bronnen met elkaar kan verbinden — bijvoorbeeld een plaatje en een beschrijving — om ze samen te begrijpen.

Een trainingstechniek waarbij de learning rate tijdens het leren tussen een minimum en maximum waarde heen en weer beweegt, wat helpt om sneller en effectiever te trainen.

Een neuron in een neuraal netwerk dat nooit meer actief wordt tijdens de training — alsof het 'doodgaat' en niets meer bijdraagt aan het leren.

Een techniek waarmee een neuraal netwerk een ingevoerde afbeelding juist vergroot in plaats van verkleint — alsof je door een vergrootglas kijkt dat details toevoegt.

Een neuraal netwerk dat in lagen leert: eerst herkent het basispatronen, dan steeds abstractere kenmerken. Werkt van onder naar boven, laag voor laag.

Een input-verbinding in een neuraal netwerk, geïnspireerd op de vertakkingen van een hersencel die signalen ontvangen van andere neuronen.

Een slim neurale netwerkontwerp waarbij elke laag een directe snelweg heeft naar alle volgende lagen, waardoor informatie efficiënter stroomt en het netwerk minder snel vergeet wat het eerder zag.

Een slimme truc in beeldherkenning waarbij een AI-model per kleurlaag apart naar patronen kijkt in plaats van alles tegelijk — veel sneller en lichter dan traditionele methodes.

Een AI-model dat beelden maakt door systematisch ruis toe te voegen aan een afbeelding en vervolgens te leren hoe je die ruis weer verwijdert — vergelijkbaar met hoe je een vaag idee steeds scherper krijgt.

Een truc in neurale netwerken waarbij je met minder rekenkracht een groter gebied 'ziet' — door gaten te laten tussen de pixels die je analyseert, alsof je door een vergiet kijkt in plaats van door een vergrootglas.

Een neuraal netwerk met een willekeurig 'reservoir' van neuronen dat alleen de uitvoerlaag traint — sneller en efficiënter dan traditionele netwerken voor tijdreeksen.

Een slim ontworpen neural network-architectuur die met minder rekenkracht betere resultaten haalt bij het herkennen van beelden, door de balans tussen diepte, breedte en resolutie slim te optimaliseren.

Een activatiefunctie in neurale netwerken die negatieve waarden toestaat, waardoor het netwerk beter kan leren dan met alleen nullen. Staat voor Exponential Linear Unit.

Een neuraal netwerk dat elk mogelijk antwoord een 'energiescore' geeft — hoe lager de energie, hoe beter het antwoord bij de vraag past. Denk aan een bal die naar het diepste punt rolt.

Als je een neuraal netwerk traint, kunnen de leersignalen soms gigantisch groot worden en het hele leerproces ontsporen — zoals een sneeuwbal die lawine wordt.

Een neurale netwerkstructuur waarin informatie in één richting stroomt: van input via verborgen lagen naar output, zonder terugkoppelingen.

Een filter is een klein patroonherkenner in een neuraal netwerk dat één specifiek kenmerk leert herkennen — bijvoorbeeld een verticale lijn, een ronding of een kleurovergang.

Een AI-model aanpassen aan jouw specifieke situatie door het verder te trainen op eigen data — zoals een kok die een basisrecept aanpast aan de smaak van zijn gasten.

Een slim type geheugencel in AI die leert wat belangrijk is om te onthouden en wat vergeten mag worden — ideaal voor tekst, spraak en tijdreeksen.

Een wiskundige functie die in AI-modellen bepaalt welke informatie belangrijk genoeg is om door te geven — zachter en natuurlijker dan een harde aan/uit-schakelaar.

Twee AI-modellen die als tegenstanders samenwerken: de één maakt nepbeelden, de ander probeert ze te ontmaskeren — waardoor steeds realistischer resultaten ontstaan.

Het absolute laagste punt in een foutlandschap — het punt waar een AI-model de best mogelijke prestatie haalt en niet verder kan verbeteren.

Een techniek in neurale netwerken die een hele laag vol getallen samenvat tot één enkel getal per kanaal — bijvoorbeeld door het gemiddelde te nemen — zodat het netwerk niet overweldigd raakt door details.

Een techniek om grote AI-modellen te trainen op kleinere computers door de trainingsdata op te knippen in stukjes en de leersignalen op te stapelen voordat je ze toepast.

Een techniek die voorkomt dat een AI-model tijdens het leren te grote sprongen maakt, waardoor de training stabieler verloopt en het model niet 'ontploft'.

Een stap-voor-stap methode waarmee een AI-model leert door telkens kleine aanpassingen te maken richting de beste oplossing — vergelijkbaar met afdalen van een berg in de mist.

Een neuraal netwerk dat niet werkt met rijtjes data, maar met relaties — denk aan social media vriendschappen of molecuulstructuren. Het leert patronen door naar verbindingen tussen dingen te kijken.