Wat is Chat Template?

Wat is een Chat Template eigenlijk?

Stel je voor: je stuurt een bericht naar een AI-chatbot. "Wat is de hoofdstad van Frankrijk?" lijkt simpel, maar het AI-model daarachter heeft geen idee wat een "gesprek" is. Het ziet alleen maar één lange tekst. Een chat template is het sjabloon dat ervoor zorgt dat jouw vraag en het antwoord van de bot netjes worden georganiseerd, zodat het model weet: "Dit stukje is van de gebruiker, dit stukje is mijn antwoord."

Denk aan het zoals de structuur van een WhatsApp-chat: elke bubble heeft een naam erboven (jij of je vriend), en zo weet je wie wat zegt. Bij AI-modellen gebeurt dat achter de schermen met speciale markeringen — bijvoorbeeld <|user|> voor jouw bericht en <|assistant|> voor het antwoord. Verschillende modellen gebruiken verschillende markeringen, net zoals elke chat-app z'n eigen kleurtjes en icoontjes heeft.

Waarom is dit belangrijk voor jou?

Als je een chatbot bouwt of een bestaand AI-model gebruikt, moet de software weten hoe het de dialoog moet structureren. Anders raakt het model in de war: het weet niet meer wanneer jij iets zegt en wanneer het zelf aan de beurt is. Dan krijg je rare antwoorden of herhaalt de bot zichzelf eindeloos.

Voor ontwikkelaars betekent het: als je een open-source model zoals Llama of Mistral gebruikt, moet je het juiste chat template toepassen. Gebruik je het verkeerde sjabloon? Dan werkt het model plots een stuk slechter, zelfs als het technisch prima is.

Voor eindgebruikers blijft dit meestal onzichtbaar — de app regelt het automatisch. Maar als je ooit een chatbot ziet die rare dingen doet (antwoorden in de war, of ineens doet alsof jij iets zei wat je niet zei), kan het aan een verkeerd of ontbrekend chat template liggen.

Hoe ziet zo'n template eruit?

Een voorbeeld (vereenvoudigd):

Jouw vraag: "Wat is de hoofdstad van Frankrijk?"

Achter de schermen met template: `` <|user|>Wat is de hoofdstad van Frankrijk?<|end|> <|assistant|> ``

Het model ziet die tags en denkt: "Oké, de gebruiker vraagt iets, nu moet ik antwoorden." Het vult dan zelf in: "Parijs." en sluit af met <|end|>.

Elke modelreeks heeft z'n eigen voorkeur. ChatGPT (van OpenAI) gebruikt intern een ander template dan bijvoorbeeld Llama of Claude. Als je via een API werkt, wordt dit automatisch geregeld. Maar bij lokale of open-source modellen moet je het vaak zelf instellen.

Een voorbeeld uit de praktijk

Een softwarebedrijf bouwt een klantenservice-bot met een open-source model. Ze trainen het model met duizenden voorbeeldgesprekken, allemaal netjes geformatteerd met hetzelfde chat template: <|system|> voor systeeminstructies ("Je bent een behulpzame assistent"), <|user|> voor klantvragen, <|assistant|> voor antwoorden.

Tijdens het testen merken ze dat het model soms wartaal uitslaat. Na onderzoek blijkt: één van de developers gebruikte per ongeluk een ander template in de testomgeving. Het model herkende de structuur niet meer en raakte in de war. Zodra ze overal hetzelfde template gebruikten, werkten de antwoorden weer perfect.

Waar kom je het tegen?

• Lokale AI-tools: Als je Llama, Mistral of andere open-source modellen draait via tools zoals Ollama of LM Studio, moet je vaak het juiste chat template selecteren of instellen.

• Developer-documentatie: Elk open-source model heeft een officiële pagina (bijv. op Hugging Face) waar staat welk template je moet gebruiken.

• Chat-apps en API's: Achter de schermen bij ChatGPT, Claude, Gemini en Copilot gebeurt dit automatisch — jij merkt er niets van, maar het is er wel.

• Custom chatbots: Als je zelf een bot bouwt (voor HR, verkoop, ondersteuning), moet je het template correct instellen, anders werkt de conversatie niet vloeiend.

Wat kun je hier nu mee?

Als je experimenteert met open-source AI-modellen, check altijd even het officiële chat template in de documentatie. Gebruik je een verkeerd template, dan lijkt het alsof het model slecht is — terwijl het gewoon niet begrijpt hoe jouw vraag gestructureerd is. En als je een chatbot bouwt: zorg dat alle developers hetzelfde template gebruiken, van training tot productie. Zo blijft je bot consistent en begrijpelijk, zonder vreemde verrassingen.