Chain-of-thought: Een model laten redeneren in stappen

Wanneer een Large Language Model (LLM) een complexe taak direct probeert op te lossen, maakt het vaker fouten. Door het model te dwingen zijn redenering ("chain of thought") stap voor stap uit te schrijven voordat het een eindantwoord geeft, stijgt de betrouwbaarheid en nauwkeurigheid aanzienlijk.

Wat is Chain-of-Thought (CoT)?

Onder de motorkap berekenen taalmodellen continu het meest logische volgende woord. Als je een model vraagt om in één keer het antwoord op een complex probleem te genereren, mist het de 'tussenruimte' om logische stappen te verwerken. CoT lost dit op door het model letterlijk de benodigde denkstappen te laten uitschrijven in zijn eigen output. Dit fungeert als een soort "kladblaadje" voor de AI.

Wanneer helpt dit?

Chain-of-thought is niet voor elke prompt nodig. Het heeft specifiek meerwaarde bij:

  • Wiskundige berekeningen en logica: Waar meerdere variabelen elkaar beïnvloeden.
  • Architectuur en systeemontwerp: Bijvoorbeeld bij het ontwerpen van een database-schema of een complexe RAG-infrastructuur met vector search.
  • Complexe data-extractie: Het analyseren van grote lappen tekst met meerdere voorwaarden.

Hoe vraag je erom?

De simpelste manier om dit te activeren is via Zero-Shot CoT door een specifieke zin toe te voegen aan je prompt. Een andere methode is Few-Shot CoT, waarbij je in je prompt een voorbeeld geeft van de gewenste redeneerstijl.

Standaard Prompt (Vaak incorrect bij complexiteit)

"Welk AI-model is het meest kosteneffectief voor mijn applicatie met 50.000 API-calls per dag, wetende dat model A €0.01 per call kost met 5% korting, en model B €0.009 per call kost plus €10 vaste kosten?"

Chain-of-Thought Prompt (Betrouwbaarder)

"Welk AI-model is het meest kosteneffectief voor mijn applicatie met 50.000 API-calls per dag, wetende dat model A €0.01 per call kost met 5% korting, en model B €0.009 per call kost plus €10 vaste kosten? Denk stap voor stap hardop na. Schrijf eerst de volledige berekening voor beide modellen uit voordat je je uiteindelijke advies geeft."

Valkuilen en Aandachtspunten

Let op het token-verbruik: Omdat het model meer tekst genereert, stijgt zowel de latency (wachttijd) als de kostprijs per request. Gebruik CoT alleen wanneer de complexiteit dit vereist.

Daarnaast is het belangrijk om te onthouden dat CoT hallucinaties niet uitsluit; een model kan vol zelfvertrouwen een foute redenering opzetten. Voor objectieve prestatie-evaluaties kun je de output het beste naast harde data leggen, zoals te vinden op onze benchmark-resultaten pagina.

Oefening: Jouw beurt

Stel je wilt een script schrijven dat data haalt uit een vector-database, dit verwerkt met een model zoals DeepSeek of Claude, en opslaat in een lokaal JSON-bestand. Je merkt dat de AI steeds direct probeert te coderen, met fouten tot gevolg.

De opdracht: Herschrijf je prompt zodat de AI wordt verplicht om eerst een pseudo-code stappenplan uit te schrijven voor deze Retrieval-Augmented Generation (RAG) pijplijn, en daarna pas de definitieve Python code levert. Deel je succesvolle prompts en outputs in de community.