RAG staat voor retrieval-augmented generation. Het is de techniek waarmee een AI-agent vragen kan beantwoorden op basis van jouw kennis, niet alleen op wat het taalmodel tijdens de training heeft geleerd. Voordat een antwoord wordt gegenereerd, haalt het systeem de meest relevante stukjes uit jouw bronnen op, en vraagt vervolgens het model om een antwoord te schrijven met die stukjes als context.
Het is het verschil tussen een AI die gokt op basis van het internet en een AI die jouw daadwerkelijke retourbeleid citeert.
Waarom RAG belangrijk is voor support en sales
Grote taalmodellen zijn getraind op een brede laag publieke tekst. Ze klinken zelfverzekerd over elk onderwerp en zijn autoriteit over geen van jouw onderwerpen. Zonder retrieval verzint zo'n model een geloofwaardig retourtermijn. Mét retrieval leest hij jouw retourpagina en geeft de juiste.
Voor klantenservice is dit de enige veilige manier om AI in te zetten op echte gesprekken. Je antwoorden moeten kloppen met je beleid. Je beleid staat in je helpcentrum, je productdocumentatie, je contracten, je oude tickets. RAG is de brug tussen "de AI klinkt goed" en "de AI klopt".
Hoe het in de praktijk werkt
Een retrieval-systeem knipt je bronnen in kleine stukjes en slaat ze op zo'n manier op dat de AI bij elke vraag de meest relevante kan vinden. Als er een klantbericht binnenkomt, doorzoekt het systeem die stukjes, rangschikt de beste matches, en stuurt ze samen met de vraag door naar het taalmodel. Het model schrijft het antwoord met de opgehaalde context, idealiter met bronvermelding die terugwijst naar de oorspronkelijke pagina.
Verandert je helpcentrum, dan herindexeren we en gebruikt de AI de nieuwe versie. Geen hertraining nodig. Je werkt één document bij, de AI loopt mee.
Beperkingen
RAG is geen wondermiddel. Klopt een bron niet, dan herhaalt de AI het foute antwoord. Ontbreekt een bron, dan zegt de AI ofwel dat hij het niet weet, of, in slechtere implementaties, vult hij het gat zelf in. De kwaliteit van een RAG-systeem hangt af van de kwaliteit van de index, de retrieval, en het vermogen van het model om binnen de opgehaalde context te blijven.
In Keloa
In Keloa is RAG de kern van elk antwoord. We indexeren je kennisbank, gronden het model in opgehaalde stukjes, en vragen om bronvermelding zodat je de bron kunt nakijken. Bekijk hoe de AI werkt en onze beveiliging.