Wat is Sampling Temperature?

Wat is sampling temperature eigenlijk?

Stel je voor dat je een AI vraagt om een verhaal te schrijven. Het model heeft op elk moment meerdere woorden om uit te kiezen — bijvoorbeeld na "De kat" kan het kiezen voor "liep", "sprong", "sliep" of "at". Sampling temperature bepaalt hoe het model die keuze maakt.

Bij een lage temperature (bijvoorbeeld 0,2) kiest het model bijna altijd het meest waarschijnlijke woord. Het antwoord wordt voorspelbaar, consistent en veilig — maar ook wat saai en herhalend. Bij een hoge temperature (bijvoorbeeld 1,5) gaat het model vaker voor onverwachte keuzes. De output wordt creatiever en gevarieerder, maar ook risicovoller: soms briljant origineel, soms rommelig of zelfs onzinnig.

De naam komt uit de natuurkunde: net zoals moleculen bij hogere temperatuur sneller en wilder bewegen, zo "beweegt" een AI-model met hoge temperature vrijer tussen verschillende antwoordopties.

Hoe werkt het technisch?

Een taalmodel berekent voor elk mogelijk volgend woord een kans. Bij "De kat" krijgt "liep" misschien 40%, "sprong" 25%, "sliep" 20% en "at" 10%. Zonder temperature zou het model altijd "liep" kiezen.

De temperature-parameter herschaalt die kansen:

• Temperature 0 (of heel laag): het model kiest áltijd het woord met de hoogste kans — geen variatie mogelijk

• Temperature rond 0,7-1,0: gezonde balans tussen betrouwbaarheid en creativiteit — de standaardinstelling bij de meeste tools

• Temperature boven 1,5: ook woorden met lage kansen krijgen een serieuze kans — resultaat wordt onvoorspelbaar

Het is een schuif die je voor elke vraag anders kunt instellen, afhankelijk van wat je nodig hebt.

Waarom zou jij hier iets aan hebben?

Als je AI gebruikt voor verschillende taken, wil je niet altijd hetzelfde gedrag. Voor een zakelijke e-mail of technische uitleg wil je betrouwbaarheid — daar kies je een lage temperature (0,2-0,5). Het model blijft dicht bij gevestigde patronen en maakt minder rare kronkels.

Maar voor brainstormsessies, creatieve teksten of het bedenken van originele ideeën wil je juist dat het model out-of-the-box denkt. Dan zet je de temperature hoger (0,9-1,3) zodat het vaker verrassende combinaties maakt.

Een paar concrete voorbeelden:

• Klantenservice-bot: lage temperature, want je wilt consistent correcte antwoorden

• Advertentieteksten: hoge temperature, want je zoekt pakkende originele hooks

• Samenvattingen: lage temperature, want nauwkeurigheid gaat voor creativiteit

• Verhalen schrijven: hoge temperature, want variatie en verrassing maken het interessant

Waar kom je het tegen?

Bijna elke AI-tool die tekst genereert heeft deze instelling, vaak verstopt in "geavanceerde opties" of "parameters":

• ChatGPT (via API of platforms als OpenAI Playground)

• Claude (in de API-instellingen)

• Gemini (Google's interface)

• Copilot (Microsoft's AI-assistent)

• Open-source tools zoals Ollama, LM Studio of text-generation-webui

Soms heet het niet "temperature" maar "creativiteit" of "randomness" — het principe blijft hetzelfde. De waarde loopt meestal van 0 tot 2, waarbij 0 het meest deterministisch is en 2 het meest chaotisch.

In chat-interfaces zie je het niet altijd direct, maar in API's of professionele tools kun je het per vraag aanpassen. Sommige platforms bieden presets zoals "nauwkeurig" (lage temp) of "creatief" (hoge temp).

Experimenteer ermee

Als je regelmatig met AI werkt, loont het om met temperature te spelen. Begin met de standaard (vaak rond 0,7), en schuif hem omlaag als je antwoorden te vaag of inconsistent vindt. Schuif hem omhoog als je output saai of herhalend wordt.

Er is geen "beste" instelling — het hangt af van je doel. En vergeet niet: bij hele hoge waarden (boven 1,5) kun je vreemde of zelfs onbruikbare output krijgen. Dat is geen bug, dat is precies hoe het werkt: je hebt het model gevraagd om risicovoller te kiezen. De kunst is om de sweet spot te vinden voor jouw specifieke gebruik.