Waarom AI soms dingen verzint, en hoe je dat merkt

Een AI-assistent die het antwoord niet weet, zegt dat lang niet altijd. Soms geeft hij een antwoord dat klinkt zoals een goed antwoord zou klinken, zoals een boektitel met schrijver en jaartal, of een citaat van een bekende Nederlander. Het ziet er echt uit, en het is verzonnen. Dat heet hallucineren, naar het Engelse woord dat ervoor wordt gebruikt, en het gebeurt bij Claude net zo goed als bij ChatGPT. Anthropic, de maker van Claude, schrijft zelf dat je Claude niet als enige bron van waarheid moet gebruiken. Hieronder lees je hoe het ontstaat, en hoe je het merkt voordat het je iets kost.

Hoe een taalmodel een antwoord maakt

Claude en ChatGPT zijn taalmodellen. Zo’n model heeft tijdens de training een enorme hoeveelheid tekst gezien en daarvan geleerd welk stukje tekst waarschijnlijk op het vorige volgt. Een antwoord groeit stukje voor stukje: het model kiest een vervolg, zet het achter de tekst en kiest dan het volgende.

Wat het model weet, zit niet als losse feiten in een kaartenbak. Het zit verspreid over miljarden getallen. Vraag je naar de hoofdstad van Frankrijk, dan komt er Parijs uit omdat dat het waarschijnlijke vervolg is, niet omdat iemand het heeft opgezocht. Bij bekende dingen gaat dat bijna altijd goed, omdat het model er in de training heel vaak over heeft gelezen. Bij details wordt het lastiger. Dan maakt het model iets wat klinkt zoals zulke details klinken. Meestal klopt dat, maar niet altijd.

Onderzoekers van Anthropic hebben in Claude bekeken wat er gebeurt als het iets niet weet. In hun verslag uit 2025 beschrijven ze dat “ik weet het niet” eigenlijk de standaard is. Herkent het model een naam of onderwerp als iets bekends, dan wordt die standaard onderdrukt en komt er een antwoord. Het gaat mis als het model een naam wel herkent, maar er verder weinig van weet. Dan valt het “ik weet het niet” toch weg, en vult het model de rest in met wat aannemelijk klinkt.

Waar het vaak misgaat

Uit dat mechanisme volgt waar je moet opletten. De fout zit zelden in de grote lijn en vaak in de details:

• Namen en getallen. Een telefoonnummer, een jaartal, de naam van een wethouder, een bedrag.
• Bronnen en citaten. Boektitels, artikelen, letterlijke uitspraken en links die net niet bestaan, of die wel bestaan maar iets anders zeggen.
• Wat er onlangs is gebeurd. De training stopt op een bepaalde datum. Nieuwe regels of prijzen kent het model alleen als het op internet zoekt.
• Onderwerpen waar weinig over geschreven is. Je eigen dorp, of een kleine organisatie. Hoe minder er te lezen was, hoe meer het model invult.
• Rekenen zonder hulpmiddel. Bij lange optellingen voorspelt een model cijfers zoals het woorden voorspelt. Laat het rekenen met code, en reken zelf na. Meer daarover in AI en je rekenblad.

Een voorbeeld. Pieter, keramist, wil in zijn nieuwsbrief iets vertellen over Nederlandse keramisten uit de jaren vijftig, met van elk een mooi citaat. Hij krijgt drie namen met elk een treffende uitspraak. De namen bestaan echt, maar de citaten vindt hij nergens terug. Het model herkende de namen, wist dat er bij zo’n stuk citaten horen, en maakte er een paar die erbij passen. Aan de tekst zelf zag Pieter dat niet.

Waarom je het niet aan de toon merkt

Een verzonnen antwoord klinkt net zo zeker als een goed antwoord. Het model heeft geen apart toontje voor twijfel, tenzij je daar zelf ruimte voor maakt. Vragen of het zeker is, helpt ook weinig. Het model kan dan bevestigen wat het zei, of juist van mening veranderen, en geen van beide zegt iets over wat er echt klopt.

Twee keer dezelfde vraag stellen is evenmin een controle, want een model kan twee keer hetzelfde verzinnen. Andersom is het wel een waarschuwing als twee pogingen elkaar tegenspreken. Volgens de handleiding van Anthropic kan zo’n verschil wijzen op een verzonnen antwoord. Een verschil vertelt je dus dat je moet nakijken, maar een overeenkomst vertelt je niet dat het klopt.

Hoe je het wel merkt

De enige echte controle is de bron. Een paar gewoontes maken die controle een stuk makkelijker.

Laat het zoeken, en open de bronnen. Vraag de AI om op internet te zoeken en bij elke bewering een link te zetten. Open de links die ertoe doen en zoek op die pagina de zin waar het staat. Een werkende link is nog geen bewijs: soms staat er iets anders, of iets van jaren geleden. Hoe je dat handig aanpakt, lees je in Iets uitzoeken met AI, met bronnen die je kunt nalopen.

Geef ruimte om het niet te weten. Zet in je vraag: “Weet je iets niet zeker, zeg dat dan in plaats van te gokken.” Volgens dezelfde handleiding van Anthropic vermindert juist die toestemming het aantal verzonnen antwoorden flink.

Werk vanuit je eigen document. Gaat het over een contract of de voorwaarden van een leverancier, geef het document dan mee en vraag om de letterlijke zin met het paginanummer. Dan kijk je het in een paar tellen na.

Vraag wat er is ingevuld. Laat de AI onder een tekst een lijstje zetten van alles wat hij heeft aangenomen of zelf heeft ingevuld, zoals prijzen of aantallen. Zo zie je meteen wat er niet van jou kwam. Volledig is zo’n lijstje niet altijd, dus getallen en namen lees je daarna zelf nog even na.

Kijk na wat ertoe doet. Alles wat naar een klant gaat of op je site komt, en alles over wetten en belasting, kijk je na bij de officiële bron. Voor een idee of een eerste opzet hoeft dat niet.

Wat dit betekent voor hoe je AI gebruikt

Dit is geen reden om AI te laten liggen. Het is een reden om het in te zetten voor werk waarvan je zelf ziet of het goed is, zoals een eerste versie van een mail, of een samenvatting van een stuk dat je zelf hebt. Bij die taken merk je een fout vanzelf. Bij losse feiten die je niet kunt overzien, is de AI het begin van je zoektocht en niet het eind.

Hoe beter je vraag, hoe minder er te verzinnen valt. Geef je de AI de gegevens die nodig zijn, dan hoeft hij ze niet zelf te bedenken. Hoe je zo’n vraag opbouwt, staat in Een goede vraag stellen aan AI.

En wat je verstuurt, blijft van jou. Een klant die een verkeerde prijs krijgt, maakt het niet uit dat een AI die prijs heeft opgeschreven. Jij drukte op verzenden.

Probeer het bij je volgende vraag over iets feitelijks. Zet er de zin bij dat de AI mag zeggen dat hij het niet weet, vraag om een link bij elke bewering, en open er twee. Doe je dat een paar keer, dan krijg je vanzelf gevoel voor welke antwoorden je kunt overnemen en welke je eerst nakijkt.