Retrieval-Augmented Generation, afgekort RAG, is een AI-techniek waarbij een taalmodel eerst relevante informatie ophaalt uit externe bronnen en die informatie daarna gebruikt om een antwoord te genereren. Daardoor kan het model actuelere, specifiekere en beter controleerbare antwoorden geven.
Deze pagina is de uitgebreide hoofduitleg over RAG. In de AI-woordenlijst vind je daarnaast korte definities van andere AI-begrippen.
Waarom gewone taalmodellen tekort kunnen schieten
Een taalmodel genereert tekst op basis van patronen uit trainingsdata en de context die het tijdens een gesprek ontvangt. Het heeft niet automatisch toegang tot actuele informatie, interne bedrijfsdocumenten of gegevens die na de training zijn ontstaan.
Dat levert problemen op bij vragen over:
- actuele gebeurtenissen en cijfers
- interne richtlijnen, handleidingen en beleid
- productspecifieke documentatie
- grote verzamelingen rapporten of kennisartikelen
Een model opnieuw trainen is vaak duur en onpraktisch. RAG biedt een andere oplossing: niet het model zelf aanpassen, maar vóór ieder antwoord relevante informatie ophalen.
Hoe werkt RAG?
Een RAG-systeem werkt meestal in vier stappen:
- De gebruiker stelt een vraag.
- Het systeem zoekt relevante documenten of tekstfragmenten op.
- De gevonden informatie wordt toegevoegd aan de context voor het taalmodel.
- Het taalmodel formuleert een antwoord op basis van de vraag en de opgehaalde bronnen.
Je kunt RAG vergelijken met iemand die eerst de juiste documenten raadpleegt en daarna pas antwoord geeft.
Documentfragmenten, embeddings en vectordatabases
Bij veel RAG-systemen worden documenten eerst opgesplitst in kleinere tekstfragmenten. Die fragmenten worden omgezet in embeddings: numerieke representaties die iets zeggen over hun betekenis.
De embeddings worden meestal opgeslagen in een vectordatabase. Wanneer iemand een vraag stelt, wordt ook die vraag omgezet in een vector. Het systeem zoekt vervolgens naar fragmenten die inhoudelijk het meest overeenkomen met de vraag.
Dit heet semantisch zoeken. Het systeem zoekt niet alleen naar exact dezelfde woorden, maar ook naar passages met een vergelijkbare betekenis.
Eenvoudig voorbeeld
Stel dat een medewerker vraagt: “Wat is het actuele reisdeclaratiebeleid?” Een gewoon taalmodel kent het interne beleid niet en kan een algemeen of fout antwoord geven.
Een RAG-systeem zoekt eerst in de interne HR-documentatie, haalt de relevante passages op en gebruikt die als context. Het antwoord kan daardoor aansluiten op het echte beleid en eventueel verwijzen naar het gebruikte document.
RAG tegenover fine-tuning en opnieuw trainen
| Methode | Wat verandert? | Geschikt voor |
|---|---|---|
| RAG | Het model ontvangt per vraag externe context | Actuele of interne kennis |
| Fine-tuning | Het gedrag of de stijl van het model wordt aangepast | Vaste taken, toon of formats |
| Opnieuw trainen | Het model leert opnieuw uit een grote dataset | Fundamentele modelontwikkeling |
RAG is dus vooral bedoeld om kennis beschikbaar te maken. Fine-tuning is geschikter wanneer je het gedrag, de schrijfstijl of taakuitvoering van een model wilt veranderen.
Voordelen van RAG
- toegang tot actuele en organisatie-eigen informatie
- minder noodzaak om een model opnieuw te trainen
- antwoorden kunnen worden gekoppeld aan bronnen
- kennis kan worden bijgewerkt door documenten te vervangen
- minder kans op antwoorden die volledig losstaan van beschikbare informatie
Beperkingen en risico’s
RAG maakt een AI-systeem niet automatisch betrouwbaar. De kwaliteit hangt af van de hele keten:
- Bronkwaliteit: foutieve of verouderde documenten kunnen tot foutieve antwoorden leiden.
- Ophalen: het systeem kan het verkeerde fragment selecteren of relevante informatie missen.
- Interpretatie: het taalmodel kan correcte bronnen alsnog verkeerd samenvatten.
- Toegangsbeheer: gebruikers mogen alleen informatie ontvangen waarvoor zij bevoegd zijn.
- Bronvermelding: een genoemd document bewijst nog niet dat iedere conclusie correct is.
Goed documentbeheer, logging, evaluatie en menselijke controle blijven daarom nodig.
Waar wordt RAG voor gebruikt?
- interne kennisassistenten
- klantenservice op basis van productdocumentatie
- zoeken en samenvatten in rapporten
- juridische, beleidsmatige en compliance-ondersteuning
- chatbots voor handleidingen, procedures en veelgestelde vragen
Vermindert RAG hallucinaties?
RAG kan hallucinaties verminderen doordat het model relevante informatie ontvangt waarop het antwoord kan worden gebaseerd. Het voorkomt fouten echter niet volledig. Lees daarom ook Vermindert RAG AI-hallucinaties?
Samenvatting
RAG combineert een taalmodel met externe kennis. Het systeem zoekt eerst relevante informatie en gebruikt die daarna bij het genereren van een antwoord. Dat maakt actuele, interne en controleerbare antwoorden mogelijk, maar alleen wanneer bronnen, toegangsrechten en evaluatie goed zijn ingericht.
