Wat is AI-hallucinatie? Uitleg voor het MKB

AI-hallucinatie is het verschijnsel waarbij een AI-model, zoals ChatGPT of Claude, met volle overtuiging een antwoord geeft dat feitelijk onjuist is of volledig verzonnen. Het model "liegt" niet bewust, het heeft simpelweg geen ingebouwd besef van waarheid. Het genereert tekst die statistisch waarschijnlijk klinkt, en soms klopt die tekst gewoon niet.

Voor een ondernemer die AI inzet in klantcontact, content of besluitvorming is dit geen abstract technisch probleem. Het is een operationeel risico dat om een concrete aanpak vraagt.

Hoe werkt het

Een taalmodel voorspelt, op basis van de tekst die het tot nu toe heeft gezien, welk volgend woord het meest waarschijnlijk is. Dat proces is gebaseerd op patronen uit enorme hoeveelheden trainingsdata, niet op een database met geverifieerde feiten die het model kan opzoeken.

Een paar oorzaken die vaak samen optreden:

• Ontbrekende kennis wordt opgevuld. Vraag je naar iets specifieks dat niet goed vertegenwoordigd is in de trainingsdata (een lokale wet, een klein bedrijf, een recente gebeurtenis), dan vult het model het gat op met de meest plausibele tekst in plaats van te zeggen "dat weet ik niet".
• Zelfvertrouwen is geen kwaliteitskeurmerk. Het model formuleert een verzonnen antwoord met dezelfde stellige toon als een correct antwoord. Er zit geen ingebouwde twijfel-indicator in.
• Lange contexten en complexe vragen vergroten de kans dat het model ergens in de redenering afdwaalt van de feiten.
• Vage of dubbelzinnige prompts geven het model meer ruimte om te "raden" in plaats van te herhalen wat het zeker weet.

Dit is precies waarom evals (gestructureerde tests die de kwaliteit en betrouwbaarheid van modeloutput meten) en gerichte fine-tuning op bedrijfsspecifieke data helpen: ze verkleinen de kans dat een model buiten zijn kennis gaat gokken, maar sluiten hallucinatie nooit volledig uit.

Waarom relevant voor het MKB

Voor een groot techbedrijf met een dedicated AI-team is hallucinatie een bekend engineeringprobleem met budget voor monitoring en review-lagen. Voor een MKB-bedrijf dat AI gebruikt in de dagelijkse praktijk, vaak zonder technisch team, zijn de risico's directer en persoonlijker:

1. Verkeerd advies aan klanten. Een AI-chatbot op de website die een verkeerde levertijd, prijs of productspecificatie noemt, kan direct tot een geschil of een teruggaveverzoek leiden.
2. Foutieve content die publiek wordt. Een blog, offerte of e-mail die met AI is opgesteld en een verzonnen statistiek, wetsartikel of naam bevat, is schadelijk zodra een klant of concurrent het opmerkt.
3. Reputatieschade. Een MKB-bedrijf heeft vaak minder buffer dan een groot merk: één zichtbare fout kan onevenredig veel vertrouwen kosten bij een klein, lokaal klantenbestand.
4. Verkeerde interne beslissingen. Als een AI-agent rapportages samenvat of data analyseert voor besluitvorming, en die samenvatting bevat een verzonnen cijfer, dan neemt iemand een beslissing op basis van iets dat niet klopt.

Het punt is niet dat je AI moet vermijden. Het punt is dat je hallucinatie als een bekend, beheersbaar risico behandelt, net zoals je een medewerker traint en controleert voordat die zelfstandig klantcontact doet.

Concreet voorbeeld

Stel: een installatiebedrijf gebruikt een AI-chatbot om vragen van klanten over garantievoorwaarden te beantwoorden. De chatbot is getraind op algemene informatie over de sector, maar niet specifiek gevoed met de eigen garantievoorwaarden van het bedrijf. Een klant vraagt naar de garantietermijn op een warmtepomp. De chatbot antwoordt zelfverzekerd met een termijn die in de sector gebruikelijk is, maar die niet overeenkomt met wat het bedrijf zelf hanteert.

De klant neemt dat antwoord serieus, want de chatbot klinkt overtuigend. Ontstaat er later een geschil over garantie, dan staat het bedrijf voor de vraag of het die (foutieve) toezegging moet nakomen. dit soort situaties komt vaker voor naarmate chatbots breder worden ingezet zonder dat de onderliggende kennisbron up-to-date en bedrijfsspecifiek is.

De oplossing zit niet in het afschaffen van de chatbot, maar in het koppelen van de AI aan de eigen, geverifieerde bedrijfsdocumenten (vaak via embeddings, een techniek om relevante bedrijfsinformatie doorzoekbaar te maken voor het model) in plaats van te vertrouwen op de algemene kennis van het model.

Wanneer is het een probleem, wanneer minder

Kort gezegd: hoe directer AI-output bij een klant of een beslissing terechtkomt zonder menselijke controle, hoe groter het risico. Hoe specifieker en geverifieerder de kennisbron waarmee het model werkt, hoe kleiner het risico.

Relatie tot verwante begrippen

AI-hallucinatie staat niet op zichzelf, het hangt samen met een paar andere kernbegrippen uit de AI-praktijk:

• Fine-tuning: het verder trainen van een model op specifieke, bedrijfseigen data verkleint de kans dat het model buiten zijn kennis gaat gokken, omdat het domein waarin het opereert smaller en beter gedefinieerd wordt.
• Evals: gestructureerde tests waarmee je meet hoe vaak en in welke situaties een model onjuiste of verzonnen antwoorden geeft, voordat je het in productie zet.
• Embeddings: de techniek die het mogelijk maakt om een model te koppelen aan je eigen, actuele bedrijfsdocumenten, zodat het minder hoeft te vertrouwen op algemene trainingskennis.

Samen vormen deze drie begrippen de basis van een verantwoorde AI-implementatie: je meet het risico (evals), je verkleint het (fine-tuning en embeddings), en je bouwt controles in op de plekken waar de impact van een fout het grootst is.

Tot slot

AI-hallucinatie is geen reden om AI te mijden, maar wel een reden om bewust te ontwerpen waar AI zelfstandig mag opereren en waar een mens moet meekijken. Wil je weten hoe hallucinatie-risico er in jouw specifieke processen uitziet? Doe de gratis AI-scan voor een concrete inschatting, of bekijk hoe AI-consultancy van UnifyAI je helpt om AI veilig en betrouwbaar in te richten voor jouw bedrijf.