Waarom verzint AI soms dingen? Hallucinaties begrijpen en beperken

Taalmodellen (LLM's) kunnen indrukwekkende teksten genereren, code schrijven en complexe vragen beantwoorden. Toch hebben ze één fundamentele zwakte: ze presenteren soms volstrekte onzin met het volste vertrouwen. In de wereld van kunstmatige intelligentie noemen we dit fenomeen een hallucinatie.

Wat is een AI-hallucinatie?

Een hallucinatie treedt op wanneer een AI-model informatie genereert die niet feitelijk juist is, niet logisch volgt uit de context, of simpelweg is verzonnen. Dit gebeurt omdat LLM's geen databases zijn waarin ze feiten 'opzoeken'. Het zijn probabilistische modellen: ze voorspellen welk woord statistisch gezien het meest logisch is om als volgende te typen, gebaseerd op hun trainingsdata.

Hoe herken je ze?

Hallucinaties zijn vaak moeilijk te spotten omdat de grammatica en toon perfect in orde zijn. Let op de volgende signalen:

• Gedetailleerde nep-referenties: De AI verzint URL's, academische papers of boeken die geloofwaardig klinken maar niet bestaan.
• Wiskundige of logische fouten: Het model legt een stappenplan perfect uit, maar de uiteindelijke berekening klopt niet.
• Tegenspraak in dezelfde tekst: De AI bevestigt een feit in alinea één, en ontkracht het in de conclusie.

Technieken om hallucinaties te beperken

Hoewel je hallucinaties nooit 100% kunt uitsluiten in fundamentele modellen, zijn er krachtige methoden om ze drastisch in te perken.

1. Gerichte Prompt Engineering: Geef het model expliciet de instructie om alleen antwoord te geven als het de feiten kent. Voeg toe: "Als je het antwoord niet weet, zeg dan 'Ik weet het niet'."
2. Vraag om bronvermelding en citaten: Dwing het model om delen van de door jou aangeleverde tekst exact te citeren voordat het een conclusie trekt.
3. Retrieval-Augmented Generation (RAG): Dit is de meest effectieve methode voor productie-omgevingen. Bij RAG koppel je het taalmodel aan een externe kennisbank (zoals je eigen documenten). Het systeem zoekt eerst de relevante feiten op via vector search en geeft deze als context aan het LLM. Het model hoeft dan alleen de aangeleverde context samen te vatten, in plaats van te putten uit zijn 'geheugen'. Voor implementatiedetails over hoe je modellen aan je eigen data koppelt, kun je terecht op api.llmnet.nl.