Hvad er RAG (Retrieval-Augmented Generation)?

RAG (Retrieval-Augmented Generation) er en metode, hvor en AI-sprogmodel slår relevant information op i en ekstern videnkilde, før den formulerer sit svar. I stedet for kun at trække på det, modellen lærte under træningen, henter den først de mest relevante tekststykker fra fx virksomhedens egne dokumenter og bruger dem som grundlag for svaret. Resultatet er svar, der er mere præcise, opdaterede og forankret i faktiske kilder.

Kort fortalt: hvorfor RAG er blevet vigtigt

En almindelig sprogmodel er trænet på en stor mængde tekst frem til et bestemt tidspunkt. Det giver to velkendte begrænsninger. For det første kender modellen ikke til noget, der er sket efter dens træning, dens viden er “frosset” på en dato. For det andet ved den intet om din virksomheds interne dokumenter, priser, kontrakter eller processer, medmindre de tilfældigvis var offentligt tilgængelige, da den blev trænet.

Når man beder en model om at svare på noget, den ikke har viden om, er der en risiko for det, man kalder hallucination: modellen skriver et svar, der lyder plausibelt og velformuleret, men som er forkert eller opdigtet. For en virksomhed, der vil bruge AI til kundeservice, intern support eller rådgivning, er det et reelt problem.

RAG adresserer begge udfordringer ved at give modellen adgang til en ekstern kilde, den kan slå op i, hver gang den skal svare.

Hvordan RAG virker

RAG kombinerer to trin: retrieval (opslag) og generation (formulering). Det kan beskrives som en søgemaskine og en sprogmodel, der arbejder sammen.

Trin 1: Retrieval: find den relevante viden

Først forberedes videngrundlaget. Virksomhedens dokumenter (det kunne være manualer, FAQ’er, produktark, politikker eller supportsager) deles op i mindre tekststykker. Hvert tekststykke omdannes til en såkaldt embedding: en talrepræsentation, der fanger tekstens betydning. Disse embeddings gemmes i en vektordatabase.

Når en bruger stiller et spørgsmål, omdannes spørgsmålet til samme type talrepræsentation. Systemet finder derefter de tekststykker i databasen, hvis betydning ligger tættest på spørgsmålet. Det er ikke en søgning på nøjagtige ord, men på betydning, derfor kan systemet finde det rette afsnit, selv om brugeren har formuleret sig helt anderledes end dokumentet.

Trin 2: Generation: formulér svaret

De fundne tekststykker sendes nu videre til sprogmodellen sammen med det oprindelige spørgsmål. Modellen får i praksis en instruktion i stil med: “Her er brugerens spørgsmål, og her er den relevante baggrundsviden, svar ud fra dette.” Modellen bruger så den hentede kontekst til at formulere et sammenhængende svar på almindeligt sprog.

Fordi svaret bygger på konkrete, hentede kilder frem for modellens generelle hukommelse, bliver det både mere præcist og lettere at spore tilbage til, hvor informationen kom fra.

En vigtig sidegevinst er netop denne sporbarhed. Fordi systemet ved, hvilke tekststykker det brugte til at svare, kan man vise brugeren, hvilke kilder svaret bygger på. Det gør det muligt at kontrollere svaret og at have tillid til det: noget der er svært, når en model blot svarer ud fra sin generelle hukommelse uden at kunne pege på, hvor den ved det fra.

Hvorfor RAG løser hallucination og forældet viden

Styrken ved RAG ligger i, at den fjerner to af de vigtigste årsager til, at AI-svar bliver upålidelige.

Mod hallucination: Når modellen får relevant, faktuel tekst leveret sammen med spørgsmålet, behøver den ikke gætte. Den kan basere sig på det fremsendte materiale. Det reducerer risikoen for opdigtede svar markant, særligt inden for virksomhedens eget domæne, hvor et generelt-trænet modelsvar ellers ofte ville være tomt eller forkert.

Mod forældet viden: RAG henter fra en videnkilde, som virksomheden selv opdaterer. Ændrer I en pris, en procedure eller et produkt, opdaterer I dokumentet i databasen, og AI’en svarer straks korrekt. Man behøver ikke gentræne selve modellen for at holde den ajour.

Det er værd at være ærlig om, at RAG ikke fjerner risikoen for fejl fuldstændigt. Hvis videngrundlaget er mangelfuldt, eller opslaget henter noget irrelevant, kan svaret stadig blive skævt. Men kvaliteten af svarene bliver langt mere kontrollerbar, fordi den afhænger af data, virksomheden selv ejer og kan forbedre.

Anvendelse i virksomheder: jeres egen viden ind i AI’en

For de fleste virksomheder er det netop her, RAG bliver interessant. I sidder på store mængder viden, som en generel AI-model ikke kender: interne vejledninger, kundeaftaler, tekniske specifikationer, supporthistorik, HR-politikker. RAG gør det muligt at bygge en AI-agent, der kan svare præcist ud fra netop dét materiale.

Typiske anvendelser omfatter:

• Kundeservice: En agent, der svarer på kundens spørgsmål ud fra jeres faktiske produkt- og vilkårsdokumentation frem for generiske svar.
• Intern medarbejder-support: En assistent, der hjælper medarbejdere med at finde svar i interne manualer, processer og politikker, uden at de skal lede i dokumenter manuelt.
• Salg og rådgivning: Et værktøj, der hurtigt fremfinder den rette produktinformation eller det rette afsnit i en aftale.
• Videnstunge processer: Hjælp til at gennemgå og opsummere store mængder dokumenter, hvor et præcist opslag sparer tid.

Fælles for det hele er, at AI’en bliver forankret i virksomhedens egen virkelighed, ikke i en generel model, der ikke kender jer.

En anden fordel er, at viden bliver ét sted. I stedet for at den samme information ligger spredt i vejledninger, mails og hoveder rundt i organisationen, kan en RAG-baseret agent samle adgangen til den. Nye medarbejdere kan spørge sig frem i stedet for at lede, og svarene bliver konsistente, fordi de kommer fra det samme, vedligeholdte grundlag.

RAG vs. fine-tuning

RAG forveksles ofte med fine-tuning, som er en anden måde at tilpasse en AI-model til et specifikt behov. De to tilgange løser forskellige problemer og kan i nogle tilfælde kombineres.

Fine-tuning betyder, at man videre­træner selve modellen på et sæt eksempler, så den ændrer adfærd, for eksempel lærer en bestemt tone, et bestemt format eller en bestemt måde at løse en opgave på. Viden “bages” ind i modellen.

RAG lader modellen være, som den er, men giver den adgang til et eksternt opslag på svartidspunktet. Viden ligger uden for modellen og hentes efter behov.

	RAG	Fine-tuning
Hvad ændres	Viden hentes eksternt ved hvert svar	Selve modellen videretrænes
Bedst til	At give adgang til fakta og opdateret viden	At forme adfærd, tone og format
Opdatering af viden	Rediger dokumentet i databasen	Kræver ny træning af modellen
Sporbarhed	Svar kan spores til kilder	Sværere at spore til en kilde
Typisk styrke	Faktuelle, aktuelle domænesvar	Konsistent stil og opgaveløsning

Som tommelfingerregel: Skal AI’en vide noget bestemt (jeres fakta, jeres dokumenter, jeres opdaterede viden) peger det mod RAG. Skal AI’en opføre sig på en bestemt måde konsekvent, peger det mod fine-tuning. Mange løsninger i praksis bruger RAG som fundament, fordi viden ændrer sig oftere end ønsket adfærd.

Sådan kommer man i gang

At bygge en RAG-løsning handler ikke kun om teknik, men lige så meget om at få styr på videngrundlaget: Hvilke dokumenter er relevante? Er de opdaterede? Hvordan struktureres de, så opslaget finder det rigtige? En velfungerende løsning starter med et gennemtænkt fundament, ikke bare en model.

Hos Agent360 bygger vi AI-agenter, der kan fodres med jeres egen viden, så I får svar, der er forankret i jeres virkelighed frem for i en generel model. Vi hjælper med at afklare, hvor RAG giver mening i jeres virksomhed, og hvordan en agent kan bygges på jeres dokumenter og data.

Vil I finde ud af, hvor AI kan skabe reel værdi hos jer? Book en uforpligtende AI-samtale med Agent360, så ser vi sammen på, hvordan jeres viden kan blive til en AI-agent, der svarer præcist og opdateret.