Wat is temperature bij een LLM?
Erwin Berkouwer
Temperature is een LLM-parameter (meestal 0 tot 2) die bepaalt hoe voorspelbaar of gevarieerd een model woorden kiest. Lage temperature levert consistente, deterministische output, hoge temperature meer creativiteit maar ook meer risico op incoherente antwoorden. Voor klantenservice en data-extractie is lage temperature aan te raden, voor brainstormen en contentideeën juist hoger.
Temperature is een instelling die bepaalt hoe voorspelbaar of hoe creatief een taalmodel antwoordt. Een lage waarde geeft consistente output, een hoge waarde meer variatie.
Wat is temperature bij een LLM?
Temperature is een parameter die bepaalt hoe 'voorzichtig' of hoe 'gedurfd' een taalmodel (LLM) is bij het kiezen van het volgende woord in zijn antwoord. Een lage temperature zorgt voor voorspelbare, consistente antwoorden; een hoge temperature zorgt voor meer variatie en creativiteit, maar ook meer kans op minder logische output.
Zie temperature als een knop tussen 'zeg steeds het meest waarschijnlijke woord' (laag) en 'geef ook minder voor de hand liggende woorden een kans' (hoog).
De waarde ligt meestal tussen 0 en 2, waarbij 0 het model bijna volledig deterministisch maakt en waarden boven de 1 steeds willekeuriger en minder samenhangend antwoord opleveren.
Hoe werkt temperature technisch?
Een taalmodel berekent bij elk volgend woord een kansverdeling over alle mogelijke woorden die kunnen volgen. Zonder temperature-aanpassing kiest het model steevast (of vrijwel steevast) het woord met de hoogste kans, wat tot repetitieve en soms saaie output kan leiden.
Temperature herschaalt deze kansverdeling voordat er een woord wordt gekozen:
- Lage temperature (bijv. 0 tot 0,3): de kansverdeling wordt scherper, het model kiest bijna altijd het meest waarschijnlijke woord. Resultaat: consistente, voorspelbare antwoorden.
- Middelmatige temperature (bijv. 0,5 tot 0,8): een balans tussen consistentie en variatie, geschikt voor de meeste algemene toepassingen.
- Hoge temperature (bijv. 1 en hoger): de kansverdeling wordt vlakker, ook minder waarschijnlijke woorden krijgen een reële kans. Resultaat: meer variatie, maar ook meer risico op onsamenhangende of onjuiste output.
Belangrijk om te weten: temperature verandert niets aan de kennis of feitenkennis van het model. Het beïnvloedt alleen hoe het model kiest tussen woorden die het al 'weet'.
Waarom is dit relevant voor het MKB?
Als je AI gebruikt in je bedrijf, bijvoorbeeld voor klantcommunicatie, contentcreatie of data-analyse, bepaalt de temperature-instelling direct hoe betrouwbaar en consistent de output is. Voor sommige toepassingen wil je juist voorspelbaarheid, voor andere juist variatie.
| Toepassing | Aanbevolen temperature | Waarom |
|---|---|---|
| Klantenservice-antwoorden | Laag (0 tot 0,3) | Consistentie en betrouwbaarheid staan voorop |
| Data-extractie of classificatie | Laag (0 tot 0,2) | Je wilt hetzelfde antwoord bij dezelfde input |
| Contentideeën of brainstormen | Hoog (0,7 tot 1) | Variatie en originaliteit zijn gewenst |
| Marketingteksten schrijven | Middelmatig (0,5 tot 0,8) | Balans tussen merkconsistentie en frisse formuleringen |
Bij het bouwen van AI-agents voor bedrijfsprocessen is temperature een van de eerste instellingen die we afstemmen, omdat een verkeerd ingestelde temperature een agent onvoorspelbaar of juist te rigide kan maken. Zeker bij geautomatiseerde workflows die zonder toezicht draaien, telt elke afwijking op, dus een bewuste keuze voor de temperature-instelling voorkomt verrassingen later in het proces.
Voorbeeld
Stel je vraagt een model twee keer: "Schrijf een openingszin voor een nieuwsbrief over ons nieuwe product."
Bij temperature 0,1 krijg je waarschijnlijk twee keer bijna dezelfde zin. Bij temperature 0,9 krijg je twee duidelijk verschillende, mogelijk creatievere zinnen, maar het risico op een minder passende of vreemde formulering neemt ook toe.
Wanneer wel, wanneer niet aanpassen
Pas de temperature aan wanneer:
- Je merkt dat antwoorden te repetitief of voorspelbaar zijn voor een creatieve taak
- Een geautomatiseerd proces juist te veel variatie vertoont waar consistentie nodig is
- Je een agent bouwt die gestructureerde output moet leveren (bijvoorbeeld JSON of vaste formats), dan hoort de temperature laag te staan
Pas de temperature niet aan als de output al goed is, of als je het probleem eigenlijk elders moet oplossen, bijvoorbeeld in de prompt zelf. Een slechte prompt los je niet op met een hogere temperature.
Verwante begrippen
Temperature wordt vaak genoemd naast andere sampling-parameters zoals 'top-p' (nucleus sampling) en 'top-k', die op vergelijkbare wijze de woordkeuze beïnvloeden maar op een andere manier. Samen bepalen deze instellingen het gedrag van een model naast de prompt zelf.
Wil je weten hoe deze instellingen in de praktijk uitpakken voor jouw bedrijfsprocessen? Onze AI-consultancy helpt met het configureren en testen van modellen voor specifieke toepassingen, en met de gratis AI-scan breng je in kaart waar AI het meeste oplevert.
Veelgestelde vragen
Korte, heldere antwoorden die je helpen sneller beslissen.
Wat is een goede standaard temperature?
Voor de meeste zakelijke toepassingen is een waarde tussen 0,3 en 0,7 een veilig startpunt, afhankelijk van of je meer consistentie of meer variatie wilt.
Kan temperature ervoor zorgen dat een model feiten verzint?
Een hoge temperature vergroot de kans op onsamenhangende of minder accurate output, maar hallucineren komt ook voor bij lage temperature en heeft meerdere oorzaken.
Is temperature hetzelfde in elk AI-model?
Het principe is vergelijkbaar, maar de exacte schaal en het effect kunnen verschillen per model en per aanbieder.
Moet ik zelf de temperature instellen?
Als je een kant-en-klare chatbot gebruikt, staat de temperature meestal al vast. Bij het bouwen van eigen AI-toepassingen via een API is het wel een instelling die je zelf bepaalt.
