Wat is een context window bij AI?
Erwin Berkouwer
Een context window is de maximale hoeveelheid tekst (gemeten in tokens) die een AI-taalmodel in één keer kan verwerken en onthouden, inclusief prompt, bijgevoegde documenten en het eigen antwoord. Overschrijdt een gesprek of document deze grens, dan verliest het model toegang tot het oudste deel van de informatie zonder dat te melden. Voor MKB-toepassingen bepaalt dit direct hoeveel documentatie, gespreksgeschiedenis of tussenstappen een AI-tool tegelijk kan meenemen.
Een context window is de hoeveelheid tekst die een AI-model tegelijk kan 'onthouden' tijdens een gesprek of taak. Hoe groter het window, hoe meer documentatie of gespreksgeschiedenis het model kan meenemen.
Een context window is de hoeveelheid tekst die een AI-model in één keer kan verwerken en 'onthouden' tijdens een gesprek of taak. Het is het werkgeheugen van het model: alles wat erbuiten valt, is het model simpelweg vergeten. Voor een MKB-ondernemer bepaalt dit heel concreet wat je wel en niet aan een AI-tool kunt voorleggen, van een enkele vraag tot een heel contract.
Hoe werkt een context window
Een taalmodel leest geen woorden, maar tokens: stukjes tekst van meestal een paar letters tot een heel woord. Een vuistregel is dat één woord ongeveer anderhalve token is. Het context window is het maximumaantal tokens dat het model in één keer kan verwerken, inclusief jouw vraag, eventuele bijgevoegde documenten, de systeeminstructies op de achtergrond én het antwoord dat het model teruggeeft.
Zodra je die grens overschrijdt, gebeurt er iets specifieks: het model gaat niet vaag antwoorden, het verliest letterlijk toegang tot het begin van het gesprek of document. Vergelijk het met een postbode die maar een bepaald aantal brieven tegelijk kan dragen. Komt er een nieuwe bij en de tas zit vol, dan valt er ergens een oude uit.
Waarom groeit dit zo snel
Context windows zijn de afgelopen jaren enorm gegroeid, van een paar duizend tokens naar modellen die honderdduizenden tot zelfs miljoenen tokens aankunnen (exacte limieten verschillen per model en veranderen regelmatig). Dat klinkt indrukwekkend, maar in de praktijk raakt een window sneller vol dan je denkt: een lang contract, een paar e-mailwisselingen en de systeeminstructies van een tool bij elkaar vullen al snel een groot deel van de beschikbare ruimte.
Een groter context window betekent niet automatisch een slimmer antwoord. Onderzoek laat zien dat modellen informatie in het midden van een lang document makkelijker over het hoofd zien dan informatie aan het begin of einde.
Waarom dit relevant is voor het MKB
Voor de meeste MKB-toepassingen is het context window geen abstract begrip, maar de directe grens van wat een AI-tool voor je kan doen. Denk aan:
- Contracten en offertes beoordelen — een leverancierscontract van 40 pagina's moet in zijn geheel passen, anders mist het model clausules verderop in het document.
- Klantgesprekken samenvatten — een lang telefoongesprek of chatgeschiedenis moet volledig meegenomen worden om een goede samenvatting te maken.
- Meerdere documenten combineren — bijvoorbeeld een offerteaanvraag naast eerdere correspondentie, om een consistent antwoord te genereren.
Als je met AI-agents werkt die zelfstandig taken uitvoeren, telt bovendien elke stap mee: elke tussenstap, elk tool-resultaat en elke eerdere actie blijft onderdeel van het lopende gesprek, tot het window vol zit.
Een concreet voorbeeld
Stel: een administratiekantoor wil een AI-assistent inzetten om binnenkomende facturen en de bijbehorende e-mailwisseling te controleren op afwijkingen. Zolang de factuur, de offerte en de relevante e-mails samen binnen het context window passen, kan het model ze in één keer vergelijken en een onderbouwd antwoord geven. Wordt de e-maildraad te lang, dan moet je kiezen: alleen de laatste berichten meesturen, of het gesprek eerst laten samenvatten voordat je verdergaat.
Wanneer is dit wel of geen probleem
Bij eenvoudige, korte taken zoals het herschrijven van een LinkedIn-post of het beantwoorden van een enkele vraag is het context window zelden een issue. Het wordt pas relevant bij:
| Situatie | Risico op window-overflow |
|---|---|
| Losse vraag of korte tekst | Laag |
| Eén document van enkele pagina's | Laag tot gemiddeld |
| Meerdere documenten of lang gesprek | Gemiddeld tot hoog |
| AI-agent met meerdere stappen/tools | Hoog, groeit per stap |
Als je regelmatig tegen deze grens aanloopt, is dat vaak een signaal dat je workflow slimmer ingericht kan worden, bijvoorbeeld door alleen relevante fragmenten aan te leveren in plaats van hele documenten.
Relatie tot andere begrippen
Het context window hangt nauw samen met een paar andere technische bouwstenen:
- Tokens — de eenheid waarin het window wordt gemeten.
- RAG (Retrieval-Augmented Generation) — een techniek om alleen de meest relevante stukken tekst uit een grote hoeveelheid documentatie op te halen, zodat je niet alles in het context window hoeft te proppen.
- Vector database — de opslagplaats waar RAG-systemen relevante tekstfragmenten in vinden op basis van betekenis, niet alleen op trefwoord.
- Prompt engineering — het bewust en compact formuleren van je vraag en context, zodat je het beschikbare window efficiënt gebruikt.
Een goed ingerichte AI-oplossing houdt rekening met deze grenzen door alleen relevante informatie aan te leveren, in plaats van blind alles erin te gooien. Dat is precies waar veel MKB-implementaties misgaan: niet door een gebrek aan AI-kwaliteit, maar door een slecht ingerichte workflow eromheen.
Benieuwd hoe dit voor jouw bedrijf speelt? Met een gratis AI-scan breng je in een paar minuten in kaart waar AI het meeste verschil maakt in jouw processen. Wil je liever eerst sparren over een specifieke toepassing, dan denkt AI-consultancy vrijblijvend met je mee.
Veelgestelde vragen
Korte, heldere antwoorden die je helpen sneller beslissen.
Wat gebeurt er als ik de grens van het context window overschrijd?
Het model verliest toegang tot het oudste deel van het gesprek of document. Het antwoordt dan alsof die informatie er nooit is geweest, zonder dat te melden.
Is een groter context window altijd beter?
Niet per se. Grotere windows kosten meer rekenkracht en dus vaak meer tijd of geld per vraag, en modellen presteren soms slechter bij informatie die diep in het midden van een lang document staat.
Hoeveel tekst past er ongeveer in een context window?
Dat verschilt sterk per model en verandert regelmatig. Als vuistregel: reken op ongeveer anderhalve token per woord, dus een document van 10.000 woorden gebruikt al snel 15.000 tokens.
Moet ik als ondernemer zelf rekening houden met het context window?
Alleen indirect. Belangrijker is dat de tool of workflow die je gebruikt hier slim mee omgaat, bijvoorbeeld door alleen relevante fragmenten aan te leveren in plaats van complete archieven.
