a

Hallucinaties — waarom AI zelfverzekerd fout kan zijn #

Een hallucinatie is een antwoord dat plausibel klinkt maar onjuist is; het is geen zeldzame bug maar een structureel gevolg van hoe LLM’s getraind en beoordeeld worden — ze worden beloond voor zelfverzekerd gokken, niet voor eerlijk “ik weet het niet”.

Inhoud #

Waarom het gebeurt #

Een LLM voorspelt het volgende waarschijnlijke token ([[hoe-llms-werken]]); het is geen database. Als het een feit niet betrouwbaar “heeft”, vult het toch het meest plausibele vervolg in — met de stelligheid van een hoogleraar. Er is geen kwade opzet, maar voor de gebruiker is een zelfverzekerde onwaarheid net zo schadelijk.

Risicofactoren: vage prompt, ontbrekende/onvolledige context, kennis voorbij de cutoff-datum, of vragen die exacte feiten vereisen die zeldzaam/door elkaar gehaald zijn.

De diepere, statistische oorzaak (OpenAI-onderzoek, 2025): tijdens pretraining ziet een model alleen positieve voorbeelden van vloeiende taal — geen “waar/onwaar”-labels. Veelvoorkomende patronen (spelling, grammatica) leert het model foutloos; willekeurige, laagfrequente feiten (een verjaardag, een specifiek jaartal) zijn statistisch niet te voorspellen en leiden onvermijdelijk tot fouten. Erger nog: de evaluatiemethoden die AI-labs gebruiken belonen gokken boven toegeven van onzekerheid — vergelijkbaar met een meerkeuzetoets waar gokken een kans op punten geeft en “ik weet het niet” gegarandeerd nul oplevert. Zolang scoreboards alleen op accuratesse afrekenen, leren modellen liever een overtuigend fout antwoord geven dan te abstineren. Dit verklaart ook waarom hallucinaties niet vanzelf verdwijnen bij grotere/slimmere modellen: 100% accuratesse is onmogelijk omdat sommige vragen inherent onbeantwoordbaar zijn, maar wél verminderbaar doordat modellen leren hun eigen onzekerheid te herkennen.

De trend: minder, maar niet weg #

Nieuwere modellen hallucineren aantoonbaar minder. Volgens OpenAI’s eigen GPT-5 System Card had gpt-5-main op productieverkeer een hallucinatiepercentage dat 26% lager lag dan GPT-4o, en het redeneermodel gpt-5-thinking scoorde 65% lager dan o3 (44% resp. 78% minder antwoorden met minstens één grote fout). Op benchmarks met webtoegang daalde het gemiddelde foutpercentage van ~4,5-5,1% (GPT-4o) naar ~0,6-1,0% (gpt-5-thinking). Kanttekening: dit is een vergelijking tussen OpenAI-modellen onderling, gemeten door OpenAI zelf — een reële en gedocumenteerde verbetering, maar geen garantie dat elk model of elke taak dit percentage haalt, en geen vrijbrief om verificatie te laten varen. OpenAI zelf benadrukt: “hallucinations remain a fundamental challenge for all large language models.”

Typische verschijningsvormen #

• Verzonnen bronnen, jurisprudentie of citaten.
• Niet-bestaande statistieken of productfuncties.
• Code die functies/methodes aanroept die niet bestaan.
• Officieel klinkende richtlijnen die niet echt zijn.

Hoe je het herkent #

• Concreet, verifieerbaar, maar net níét te vinden bij de genoemde bron.
• Overdreven stelligheid bij niche- of recente onderwerpen.
• Inconsistenties als je dezelfde vraag iets anders stelt.
• Vraag door: “Wat is je bron?” en controleer die zelf.

Hoe je het beperkt #

• Geef context en wees specifiek (betere prompt → minder gaten om in te vullen).
• Gebruik [[rag-mcp-agents|RAG/tools]] voor actuele/private feiten — “open-boek” i.p.v. uit het hoofd. Let op: slechte retrieval → nog steeds fout; RAG is geen wondermiddel.
• Lagere [[kernbegrippen-llm|temperature]] voor feitelijke taken.
• Vraag om bronnen/citaten en verifieer.
• Mens in de lus bij hoog-risico (juridisch, medisch, financieel) — leg dit vast in een [[verantwoord-ai-gebruik|AI-beleid]].
• Geef AI expliciete grenzen in plaats van vrij te laten gokken: afgebakende, curated kennis (met eigenaar/versie) + metadata (doelgroep, validatiedatum, bronverwijzing) als vaste ondergrond, aangevuld met logging/monitoring op afwijkende output. Zo opereert AI binnen een domein van betrouwbare kennis in plaats van “open domein” te gokken.
• Bouw een controlelaag die hard faalt bij hoog volume/productie-gebruik — zie [[hallucinaties-voorkomen-controlelaag]] voor de concrete aanpak (waarom een prompt-regel alleen niet volstaat, en hoe je claims mechanisch tegen hun bron verifieert).

Sleutelinzichten #

• “Plausibel ≠ waar” is de belangrijkste mindset die je een cursist kunt meegeven.
• Hallucinatie is geen teken van een “slecht” model maar van de architectuur én de manier waarop modellen getraind/beoordeeld worden — daarom is verificatie inbouwen (niet optioneel maken) de juiste reactie.
• Een instructie in de prompt (“verzin nooit een cijfer”) is geen garantie — het is een instructie die meestal wordt opgevolgd, en “meestal” faalt precies onder druk (lang stuk, complex onderwerp, gat in de informatie). Regels die nooit gebroken mogen worden, horen in een controle buiten het model (code/proces), niet alleen in de prompt.
• Dit thema verbindt techniek ([[hoe-llms-werken]]) met beleid ([[verantwoord-ai-gebruik]]) en privacy ([[privacy-risicos-llms]]).

Inzetbaar voor #

• Training/oefening: laat cursisten zélf een hallucinatie uitlokken en betrappen (krachtige aha-ervaring).
• Infographic: “5 manieren om een hallucinatie te herkennen.”
• Blog/video: “Waarom ChatGPT soms liegt (en hoe je het doorprikt).”

Gerelateerd #

• [[hoe-llms-werken]] — de oorzaak: voorspellen i.p.v. opzoeken
• [[rag-mcp-agents]] — feiten gronden met retrieval/tools
• [[verantwoord-ai-gebruik]] — output controleren als beleid
• [[prompting-technieken]] — betere prompts = minder gaten
• [[ai-implementatie-agile]] — hallucinatie-mitigatie in productie (RAG, human-in-the-loop)
• [[hallucinaties-voorkomen-controlelaag]] — praktische aanpak: grenzen stellen + een controlelaag bouwen die niet overgehaald kan worden
• [[aeo-answer-engine-optimization]] — gehallucineerde URL’s en het misinformatie-experiment (AI die nepbronnen over je merk herhaalt)
• [[wiki/fundamenten/context-engineering]] — een feitenbron meegeven én begrenzen; context rot als gemeten oorzaak van wegzakkende betrouwbaarheid

Bronnen #

• [[RAW/Modern AI and LLM Concepts.md]] — sectie Hallucination: oorzaak + mitigaties (2026-05)
• [[RAW/Why do AI models hallucinate?.md]] — Anthropic/Claude-tutorial (landingspagina zonder transcript; inhoud niet uit te lezen → blijft open lint-punt)
• [[RAW/Zo maak je een duidelijk AI-beleid voor je bedrijf.md]] — KVK, output altijd controleren
• [[RAW/Voorkom dat AI hallucineert geef grenzen aan!.md]] — Edwin de Kuiper, Frankwatching, oorzaken + grenzen stellen (gepubliceerd 2026-04-07; live geverifieerd tegen frankwatching.com op 2026-07-03, inhoud komt overeen)
• [[RAW/Zo voorkom je AI-hallucinaties met een slimme controlelaag.md]] — Louie Valkhof, Frankwatching, mechanische controlelaag in een agency-contentpijplijn (gepubliceerd 2026-06-30; live geverifieerd op 2026-07-03, inhoud komt overeen)
• OpenAI, “Why language models hallucinate” (openai.com/index/why-language-models-hallucinate) — primaire onderzoeksbron voor de statistische oorzaak (2025-09, geverifieerd via live fetch 2026-07-03)
• OpenAI, GPT-5 System Card (cdn.openai.com/gpt-5-system-card.pdf) — primaire bron voor de 26%/65%-hallucinatiecijfers (2025-08, cijfer onafhankelijk bevestigd via meerdere secundaire bronnen: Simon Willison, Mashable, LessWrong)