Het probleem: LLM’s en externe data
Grote taalmodellen (LLM’s) zijn krachtig, maar hebben fundamentele beperkingen:
- Knowledge cutoff: ze weten niets van na hun trainingsdatum.
- Geen toegang tot jouw data: ze kennen je interne documenten, databases of systemen niet.
- Hallucinaties: ze verzinnen antwoorden wanneer ze iets niet weten.
Wat is RAG?
Retrieval-augmented generation (RAG) haalt relevante informatie op uit een kennisbron en voegt deze toe aan de prompt voordat het LLM antwoordt.
Hoe het werkt:
- Documenten worden opgedeeld in chunks, omgezet in embeddings en opgeslagen in een vectordatabase.
- Bij een vraag wordt ook de vraag omgezet in een embedding.
- De meest relevante chunks worden opgehaald via similarity search.
- Deze context wordt toegevoegd aan de prompt.
- Het LLM genereert een antwoord gebaseerd op de opgehaalde context.
Wat is agentic AI?
Agentic AI geeft het LLM de mogelijkheid om zelf te beslissen welke tools of acties nodig zijn. Het model neemt waar, redeneert en handelt, en herhaalt die cyclus tot de taak klaar is.
Volgende ronde, tot de taak klaar is
Beschikbare tools kunnen zijn:
Zoeken op het web
Database bevragen
Code uitvoeren
E-mail versturen
Agenda
Bestanden bewerken
RAG vs agentic: de verschillen
| Aspect | RAG | Agentic AI |
|---|---|---|
| Aanpak | Breng data naar het model | Model gaat naar de data en tools |
| Databron | Vooraf geïndexeerde documenten | Live API’s, databases, tools |
| Complexiteit | Eenvoudiger te implementeren | Complexer, meer foutgevoelig |
| Wachttijd | Eén zoekstap en één antwoord | Meerdere rondes mogelijk |
| Autonomie | Passief: antwoordt op vragen | Actief: kan acties uitvoeren |
| Controle | Hoog: voorspelbare pipeline | Lager: agent bepaalt route |
RAG = bibliothecaris
Agentic = assistent
Wanneer kies je RAG?
Vragen over documenten
Snel antwoord nodig
Voorspelbaarheid belangrijk
Statische kennisbasis
Wanneer kies je agentic?
Taken met meerdere stappen
Actuele data nodig
Acties uitvoeren
Complexe redenering
Het beste van beide: agentic RAG
In de praktijk combineren veel systemen beide benaderingen. Agentic RAG geeft een agent toegang tot RAG als een van zijn tools:
Voorbeeldworkflow:
- Gebruiker: “Wat is ons retourbeleid? Stuur een samenvatting naar naam@example.nl.”
- Agent redeneert: “Ik moet eerst het retourbeleid ophalen (RAG) en dan een e-mail sturen (e-mailtool).”
- Agent roept de RAG-tool aan → krijgt relevante documenten.
- Agent schrijft een samenvatting.
- Agent roept de e-mailtool aan → verstuurt de e-mail.
- Agent bevestigt: “Samenvatting verstuurd naar naam@example.nl.”