Wat is Context Window?

Wat is een context window eigenlijk?

Stel je voor dat je een gesprek hebt met iemand die aan geheugenverlies lijdt. Die persoon kan zich alleen de laatste tien minuten van jullie gesprek herinneren — alles daarvoor is verdwenen. Zo werkt het ook met AI-modellen: ze hebben een 'werkgeheugen' dat beperkt is. Dat werkgeheugen heet het context window.

Het context window is het maximum aantal woorden (technisch: tokens) dat een AI-model in één keer kan 'zien' en gebruiken om een antwoord te geven. Alles wat buiten dat venster valt, vergeet het model gewoon. Hoe groter het window, hoe meer informatie het model tegelijk kan verwerken — en hoe langer het 'mee kan denken' in complexe gesprekken of documenten.

Hoe werkt het in de praktijk?

Elke keer dat je iets aan een AI-model vraagt, stuur je niet alleen je vraag, maar ook alle eerdere berichten uit het gesprek mee. Het model leest alles opnieuw — van begin tot eind — om context te begrijpen. Maar als het gesprek te lang wordt, past het niet meer in het window. Dan moet het model oude stukjes 'vergeten' om nieuwe informatie te kunnen lezen.

Een concreet voorbeeld: als een model een context window heeft van 8.000 tokens (ongeveer 6.000 woorden), dan kun je een gesprek voeren van die lengte. Dat is genoeg voor een gesprekje van tien à vijftien beurten, of om een kort document samen te vatten. Maar wil je een heel boek laten analyseren? Dan loopt het vast.

Recente modellen hebben steeds grotere windows. Sommige kunnen inmiddels 200.000 tokens of meer aan — dat is genoeg voor een dik rapport of zelfs meerdere hoofdstukken van een boek. Daardoor worden ze bruikbaarder voor complexe taken zoals juridische analyse, onderzoeksrapportage of langdurige brainstormsessies.

Waarom maakt de grootte uit?

Hoe groter het context window, hoe meer je kunt:

• Langere gesprekken voeren zonder dat het model vergeet wat je eerder zei

• Grotere documenten uploaden om te laten samenvatten, analyseren of doorzoeken

• Meer voorbeelden meegeven in je prompt, zodat het model beter begrijpt wat je wil

• Complexere taken uitvoeren waarbij het model verschillende stukjes informatie tegelijk moet combineren

Maar er zit ook een keerzijde aan: hoe groter het window, hoe meer rekenkracht en geheugen het kost. Daarom zijn grotere windows vaak duurder in gebruik en soms trager in responstijd.

Waar kom je het tegen?

Bij vrijwel elk AI-model dat je gebruikt, speelt het context window een rol. Hier zijn een paar voorbeelden:

• ChatGPT heeft verschillende windows afhankelijk van het model — van 8K tot 128K tokens

• Claude biedt modellen met windows tot 200K tokens — handig voor lange documenten

• Gemini heeft versies met windows tot 2 miljoen tokens, gericht op zeer grote datasets

• Copilot gebruikt verschillende onderliggende modellen met wisselende window-groottes

Als je een AI-tool kiest voor een specifieke taak, check dan altijd hoeveel tokens het context window is. Staat het niet duidelijk vermeld? Kijk op de officiële documentatie van de aanbieder — deze specs veranderen regelmatig.

Wat kun je ermee?

Begrijpen hoe groot het context window is, helpt je slimmer werken met AI. Moet je een lang document laten analyseren? Controleer of het past. Merk je dat een model 'vergeet' wat je eerder zei? Misschien is het gesprek te lang geworden en valt oude info buiten het window.

Tip: als je met grote hoeveelheden tekst werkt, kun je documenten opsplitsen en per stuk laten verwerken — of zoeken naar een model met een groter window. Zo haal je meer uit AI zonder tegen beperkingen aan te lopen.