Wat is een context window bij AI?

Een context window is de hoeveelheid tekst die een AI-model in één keer kan verwerken en 'onthouden' tijdens een gesprek of taak. Het is het werkgeheugen van het model: alles wat erbuiten valt, is het model simpelweg vergeten. Voor een MKB-ondernemer bepaalt dit heel concreet wat je wel en niet aan een AI-tool kunt voorleggen, van een enkele vraag tot een heel contract.

Hoe werkt een context window

Een taalmodel leest geen woorden, maar tokens: stukjes tekst van meestal een paar letters tot een heel woord. Een vuistregel is dat één woord ongeveer anderhalve token is. Het context window is het maximumaantal tokens dat het model in één keer kan verwerken, inclusief jouw vraag, eventuele bijgevoegde documenten, de systeeminstructies op de achtergrond én het antwoord dat het model teruggeeft.

Zodra je die grens overschrijdt, gebeurt er iets specifieks: het model gaat niet vaag antwoorden, het verliest letterlijk toegang tot het begin van het gesprek of document. Vergelijk het met een postbode die maar een bepaald aantal brieven tegelijk kan dragen. Komt er een nieuwe bij en de tas zit vol, dan valt er ergens een oude uit.

Waarom groeit dit zo snel

Context windows zijn de afgelopen jaren enorm gegroeid, van een paar duizend tokens naar modellen die honderdduizenden tot zelfs miljoenen tokens aankunnen (exacte limieten verschillen per model en veranderen regelmatig). Dat klinkt indrukwekkend, maar in de praktijk raakt een window sneller vol dan je denkt: een lang contract, een paar e-mailwisselingen en de systeeminstructies van een tool bij elkaar vullen al snel een groot deel van de beschikbare ruimte.

Waarom dit relevant is voor het MKB

Voor de meeste MKB-toepassingen is het context window geen abstract begrip, maar de directe grens van wat een AI-tool voor je kan doen. Denk aan:

• Contracten en offertes beoordelen: een leverancierscontract van 40 pagina's moet in zijn geheel passen, anders mist het model clausules verderop in het document.
• Klantgesprekken samenvatten: een lang telefoongesprek of chatgeschiedenis moet volledig meegenomen worden om een goede samenvatting te maken.
• Meerdere documenten combineren: bijvoorbeeld een offerteaanvraag naast eerdere correspondentie, om een consistent antwoord te genereren.

Als je met AI-agents werkt die zelfstandig taken uitvoeren, telt bovendien elke stap mee: elke tussenstap, elk tool-resultaat en elke eerdere actie blijft onderdeel van het lopende gesprek, tot het window vol zit.

Een concreet voorbeeld

Stel: een administratiekantoor wil een AI-assistent inzetten om binnenkomende facturen en de bijbehorende e-mailwisseling te controleren op afwijkingen. Zolang de factuur, de offerte en de relevante e-mails samen binnen het context window passen, kan het model ze in één keer vergelijken en een onderbouwd antwoord geven. Wordt de e-maildraad te lang, dan moet je kiezen: alleen de laatste berichten meesturen, of het gesprek eerst laten samenvatten voordat je verdergaat.

Wanneer is dit wel of geen probleem

Bij eenvoudige, korte taken zoals het herschrijven van een LinkedIn-post of het beantwoorden van een enkele vraag is het context window zelden een issue. Het wordt pas relevant bij:

Als je regelmatig tegen deze grens aanloopt, is dat vaak een signaal dat je workflow slimmer ingericht kan worden, bijvoorbeeld door alleen relevante fragmenten aan te leveren in plaats van hele documenten.

Relatie tot andere begrippen

Het context window hangt nauw samen met een paar andere technische bouwstenen:

• Tokens: de eenheid waarin het window wordt gemeten.
• RAG (Retrieval-Augmented Generation): een techniek om alleen de meest relevante stukken tekst uit een grote hoeveelheid documentatie op te halen, zodat je niet alles in het context window hoeft te proppen.
• Vector database: de opslagplaats waar RAG-systemen relevante tekstfragmenten in vinden op basis van betekenis, niet alleen op trefwoord.
• Prompt engineering: het bewust en compact formuleren van je vraag en context, zodat je het beschikbare window efficiënt gebruikt.

Een goed ingerichte AI-oplossing houdt rekening met deze grenzen door alleen relevante informatie aan te leveren, in plaats van blind alles erin te gooien. Dat is precies waar veel MKB-implementaties misgaan: niet door een gebrek aan AI-kwaliteit, maar door een slecht ingerichte workflow eromheen.

Benieuwd hoe dit voor jouw bedrijf speelt? Met een gratis AI-scan breng je in een paar minuten in kaart waar AI het meeste verschil maakt in jouw processen. Wil je liever eerst sparren over een specifieke toepassing, dan denkt AI-consultancy vrijblijvend met je mee.