Wat is een context window bij AI?

Een context window is de hoeveelheid tekst die een AI-model in één keer kan verwerken en onthouden tijdens een gesprek of taak. Het is het werkgeheugen van het model: wat erbuiten valt, is het model kwijt. Voor een mkb-ondernemer bepaalt dit concreet wat je wel en niet aan een AI-tool kunt voorleggen, van een enkele vraag tot een heel contract.
Hoe werkt een context window?
Een taalmodel leest geen woorden maar tokens: stukjes tekst van een paar letters tot een heel woord. Als vuistregel is één woord ruwweg anderhalve token. Het context window is het maximumaantal tokens dat het model in één keer aankan, inclusief je vraag, bijgevoegde documenten, de systeeminstructies op de achtergrond en het antwoord dat het model teruggeeft.
Overschrijd je die grens, dan antwoordt het model niet vaag, maar verliest het toegang tot een deel van de informatie, meestal het begin van het gesprek of document. Vergelijk het met een postbode die maar een bepaald aantal brieven tegelijk kan dragen. Komt er een nieuwe bij en de tas zit vol, dan valt er ergens een oude uit. Hoe een tool dat precies afhandelt, verschilt: sommige tools geven een foutmelding, andere laten stilzwijgend iets weg.
Waarom groeien context windows zo snel?
Context windows zijn de afgelopen jaren enorm gegroeid, van een paar duizend tokens naar modellen die honderdduizenden tot miljoenen tokens aankunnen (de limieten verschillen per model en veranderen regelmatig). Dat klinkt indrukwekkend, maar een window raakt sneller vol dan je denkt: een lang contract, een paar e-mailwisselingen en de systeeminstructies van een tool vullen samen al een groot deel van de ruimte.
Een groter context window betekent niet automatisch een slimmer antwoord. Onderzoek wijst erop dat modellen informatie in het midden van een lang document vaker over het hoofd zien dan informatie aan het begin of einde.
Waarom is het context window belangrijk voor het mkb?
Voor de meeste mkb-toepassingen is het context window geen abstract begrip maar de directe grens van wat een AI-tool voor je kan doen. Denk aan:
- Contracten en offertes beoordelen: een leverancierscontract van 40 pagina's moet in zijn geheel passen, anders mist het model clausules verderop in het document.
- Klantgesprekken samenvatten: een lang telefoongesprek of chatgeschiedenis moet volledig meegenomen worden voor een goede samenvatting.
- Meerdere documenten combineren: bijvoorbeeld een offerteaanvraag naast eerdere correspondentie, voor een consistent antwoord.
Bij AI-agents die zelfstandig taken uitvoeren telt elke stap ook mee: elke tussenstap, elk resultaat van een tool en elke eerdere actie blijft onderdeel van het lopende gesprek tot het window vol zit.
Een concreet voorbeeld
Een administratiekantoor zet een AI-assistent in om binnenkomende facturen en de bijbehorende e-mailwisseling te controleren op afwijkingen. Zolang factuur, offerte en relevante mails samen in het context window passen, kan het model ze in één keer vergelijken en een onderbouwd antwoord geven. Wordt de mailketen te lang, dan kies je: alleen de laatste berichten meesturen, of het gesprek eerst laten samenvatten. Meer over dit soort toepassingen staat bij facturen en administratie.
Wanneer is het context window een probleem?
Bij korte taken, zoals een LinkedIn-post herschrijven of een enkele vraag beantwoorden, is het zelden een issue. Het wordt relevant bij:
| Situatie | Risico dat het window vol raakt |
|---|---|
| Losse vraag of korte tekst | Laag |
| Eén document van enkele pagina's | Laag tot gemiddeld |
| Meerdere documenten of een lang gesprek | Gemiddeld tot hoog |
| AI-agent met meerdere stappen en tools | Hoog, groeit per stap |
Loop je regelmatig tegen deze grens aan, dan is dat vaak een teken dat je workflow slimmer kan, bijvoorbeeld door alleen relevante fragmenten aan te leveren in plaats van complete documenten.
Welke begrippen horen erbij?
- Tokens: de eenheid waarin het window wordt gemeten.
- RAG (Retrieval-Augmented Generation): een techniek die alleen de meest relevante stukken uit een grote hoeveelheid documentatie ophaalt, zodat je niet alles in het window hoeft te proppen. Zie ook Wat is semantic search?.
- Vector database: de opslag waarin RAG-systemen relevante tekstfragmenten vinden op basis van betekenis, niet alleen op trefwoord.
- Prompt engineering: je vraag en context bewust compact formuleren, zodat je het beschikbare window efficiënt gebruikt.
Een goed ingerichte AI-oplossing houdt rekening met deze grenzen en levert alleen relevante informatie aan. Veel implementaties gaan juist daar mis: niet door de kwaliteit van de AI, maar door de workflow eromheen.
Benieuwd hoe dit bij jouw bedrijf speelt? Met een AI-scan zie je in een paar minuten waar AI het meeste verschil maakt in jouw processen. Wil je liever eerst sparren over een specifieke toepassing, plan dan een kennismaking of lees meer over AI-consultancy.
Veelgestelde vragen
Korte, heldere antwoorden die je helpen sneller beslissen.
Wat gebeurt er als ik de grens van het context window overschrijd?
Het model verliest toegang tot een deel van het gesprek of document, meestal het oudste deel. Afhankelijk van de tool krijg je een foutmelding, of het model antwoordt alsof die informatie er nooit was, vaak zonder dat te melden.
Is een groter context window altijd beter?
Niet per se. Grotere windows kosten meer rekenkracht en dus vaak meer tijd of geld per vraag, en modellen presteren soms slechter bij informatie die midden in een lang document staat.
Hoeveel tekst past er ongeveer in een context window?
Dat verschilt sterk per model en verandert regelmatig. Als vuistregel: reken op ruwweg anderhalve token per woord, dus een document van 10.000 woorden gebruikt al snel 15.000 tokens.
Moet ik als ondernemer zelf rekening houden met het context window?
Alleen indirect. Belangrijker is dat de tool of workflow die je gebruikt er slim mee omgaat, bijvoorbeeld door alleen relevante fragmenten aan te leveren in plaats van complete archieven.



