Wat is een transformer? Het brein achter moderne AI, intuïtief uitgelegd

Als je vandaag de dag gebruikmaakt van geavanceerde kunstmatige intelligentie zoals taalmodellen, chatbots of automatische vertalers, dan maak je gebruik van een transformer. Sinds de introductie van deze architectuur in 2017 heeft het een revolutie ontketend in de technologiewereld. Maar wat doet een transformer precies onder de motorkap, en waarom werkt het zo goed?

In deze module leggen we het uit zonder complexe formules of zware wiskunde.

Het probleem van de oude AI

Voordat de transformer bestond, keken computers naar taal zoals een lopende band in een fabriek: woord voor woord, van links naar rechts. Dit had een groot nadeel: als een zin lang werd, 'vergat' de computer het begin van de zin. Bovendien kon een computer de betekenis van een woord dat meerdere betekenissen heeft (zoals het woord 'bank') niet goed plaatsen zonder de context van de hele zin te overzien.

Een transformer lost dit op door alle woorden in een zin tegelijkertijd te bekijken en te analyseren hoe ze zich tot elkaar verhouden.

De analogie: Een groep redacteuren

Stel je voor dat je een ingewikkeld boek leest. In plaats van dat één persoon het boek woord voor woord leest, zet je een grote tafel neer met tientallen redacteuren. Elk redactielid krijgt één specifiek woord toegewezen.

Zodra het startsignaal klinkt, roepen alle redacteuren door de kamer welke andere woorden in de tekst belangrijk zijn voor hún woord. Zo weet het redactielid van het woord "bank" direct te vertellen of het over geld of over zitten gaat, omdat het kijkt naar de relatie met woorden als "lenen" of "kussen" verderop in de tekst.

Waarom werkt dit zo goed?

Dankzij het aandacht-mechanisme kan een transformer:

• Context begrijpen: Pronomen (zoals 'hij', 'het', 'zij') feilloos koppelen aan het juiste object, ongeacht de afstand in de zin.
• Parallel werken: Doordat niet alles netjes op volgorde berekend hoeft te worden, kan moderne hardware (zoals GPU's) enorme hoeveelheden tekst bliksemsnel verwerken.
• Schalen: Hoe meer data en rekenkracht je erin stopt, hoe slimmer en nauwkeuriger de modellen worden.