AI-hallucination: hvorfor AI tager fejl, og hvad I gør ved det

En AI-hallucination er, når et sprogmodel-værktøj giver et svar, der lyder rigtigt, men som er forkert eller opdigtet: en paragraf, der ikke findes, et tal, der aldrig er blevet målt, en kilde, der er fri fantasi. Modellen lyver ikke bevidst. Den er bygget til at forudsige det mest sandsynlige næste ord, ikke til at kende sandheden. Derfor kan den formulere sig skråsikkert om noget, den reelt ikke ved. For en virksomhed er det ikke en teoretisk detalje: det er forskellen på et værktøj, I kan stole på, og et, der stille skaber fejl.

Hvad en AI-hallucination egentlig er

En hallucination er et selvsikkert, sammenhængende svar, der ikke holder. Det behøver ikke være åbenlyst tosset. Tværtimod er de farligste hallucinationer dem, der ser fuldstændig plausible ud: en dato, der er tæt på den rigtige, en henvisning til en “rapport”, der har et troværdigt navn, en juridisk formulering, der lyder korrekt, men ikke er det.

Fordi svaret er velformuleret, har vi svært ved at fange fejlen. Vi er vant til, at flydende sprog signalerer viden. Hos et menneske hænger de to ting ofte sammen. Hos en sprogmodel gør de det ikke nødvendigvis: den kan være lige så velformuleret, når den har ret, som når den tager fejl.

Hvorfor det sker

For at bruge AI fornuftigt skal man forstå, hvad den grundlæggende laver. En sprogmodel er ikke en database, man slår op i. Den er en forudsigelsesmaskine.

Modellen forudsiger ord, ikke sandhed

Modellen er trænet på enorme mængder tekst og har lært, hvilke ord der statistisk plejer at følge efter hinanden. Når den svarer, vælger den ét sandsynligt ord ad gangen. Der er ingen indbygget faktatjek-motor, der undervejs spørger “er det her rigtigt?” Der er kun et spørgsmål om “hvad er et sandsynligt næste ord givet det, jeg allerede har skrevet?”

Det virker imponerende godt, fordi sandsynlige ord som regel også er sande ord, verden hænger sammen. Men når modellen mangler viden, holder mekanismen ikke pause. Den gætter videre i samme flydende stil. Resultatet er et svar, der er sprogligt korrekt og fagligt forkert.

Nogle situationer øger risikoen

Hallucinationer bliver mere sandsynlige, når:

• Spørgsmålet handler om noget smalt eller nyt, som modellen har set lidt eller intet om i træningen.
• Der bedes om præcise detaljer: tal, datoer, paragraffer, citater, kildehenvisninger.
• Spørgsmålet er tvetydigt, så modellen selv udfylder de tomme felter med gæt.
• Modellen presses til at svare, i stedet for at få lov at sige “det ved jeg ikke”.

Hvor det er farligt i en virksomhed

Til en uforpligtende idé-brainstorm gør en hallucination ikke stor skade. Det bliver alvorligt, når AI’ens svar bliver til handling uden et menneske imellem.

Område	Hvad en hallucination kan koste
Kundeservice	Et forkert svar om vilkår, priser eller rettigheder, som kunden handler på
Jura og compliance	En opdigtet paragraf eller frist, der bruges i en reel beslutning
Økonomi og tal	Et beløb eller en beregning, der ser rigtig ud og ryger direkte videre
Intern viden	Medarbejdere lærer noget forkert om egne processer og produkter
Eksternt indhold	Fejl offentliggøres i jeres navn og skader troværdigheden

Fællesnævneren er tillid. Bruger man AI som en kollega, der altid har ret, forstærker værktøjet sine egne fejl. Bruger man det som en dygtig, men til tider usikker assistent, hvis arbejde bliver kontrolleret, er man et helt andet sted.

Hvordan I reducerer risikoen

Den gode nyhed er, at hallucinationer ikke er et mysterium, man må leve med. De kan bringes markant ned med den rigtige opsætning. Det handler ikke om at finde den “perfekte model”, men om at bygge rammen rigtigt omkring den.

1. Giv AI’en jeres egen viden at svare ud fra (RAG)

Den vigtigste enkeltforanstaltning er at lade AI’en svare ud fra jeres egne, verificerede dokumenter i stedet for udelukkende sin generelle træning. Teknikken kaldes RAG: modellen henter først de relevante afsnit fra jeres eget materiale og bygger svaret på dem.

I stedet for at spørge “hvad tror du om vores returret?” bliver spørgsmålet reelt “her er vores returpolitik, svar ud fra den.” Det snævrer opgaven ind fra “alt i verden” til “det her dokument”, og det reducerer rummet, hvor modellen kan gætte. Det er præcis den type løsning, vi hos Agent360 bygger, når en virksomhed vil have AI, der taler ud fra deres egen sandhed frem for internettets.

2. Behold mennesket i kontrollen

For alt, der har konsekvenser, skal et menneske godkende, før noget sendes eller effektueres. AI’en foreslår, mennesket beslutter. Det lyder banalt, men det er den enkeltforanstaltning, der forhindrer de fleste dyre fejl. En veldesignet AI-agent er bygget netop sådan: den gør benarbejdet, men de kritiske trin har en godkendelse indbygget.

3. Kræv kilder

Bed altid AI’en om at pege på, hvor svaret kommer fra, hvilket dokument, hvilket afsnit. Det gør to ting: det gør svaret let at efterprøve, og det afslører hallucinationen, fordi et opdigtet svar sjældent kan pege på en ægte kilde. “Hvor står det?” er et af de stærkeste spørgsmål, man kan stille sin AI.

4. Afgræns opgaven

En AI, der skal “hjælpe med alt”, tager oftere fejl end en, der har én veldefineret opgave med klare rammer. Smalle, tydeligt afgrænsede opgaver (kategorisér denne henvendelse, træk disse felter ud, besvar spørgsmål ud fra denne håndbog) er langt mere pålidelige end det åbne “spørg om hvad som helst”.

Tjekliste: AI I kan stole på

• [ ] Svarer AI’en ud fra vores egne, verificerede dokumenter (RAG)?
• [ ] Godkender et menneske alt, der har reelle konsekvenser?
• [ ] Kan vi se, hvilken kilde et svar bygger på?
• [ ] Er opgaven smal og klart afgrænset?
• [ ] Må AI’en sige “det ved jeg ikke” i stedet for at gætte?
• [ ] Har vi testet på svære, virkelige eksempler, ikke kun de lette?

Den realistiske forventning

Her er den ærlige del, som er værd at høre fra nogen, der bygger det her til daglig: hallucinationer kan reduceres markant, men de kan ikke garanteres væk til nul. Det ligger i teknologiens natur, at en sprogmodel forudsiger. Enhver, der lover jer en AI, der aldrig tager fejl, sælger enten noget, de ikke forstår, eller noget, de ikke kan holde.

Men det er ikke et argument imod at bruge AI, det er et argument for at bruge den rigtigt. Med egen viden som fundament, mennesker i kontrollen, kildekrav og afgrænsede opgaver kommer man fra “værktøj, jeg ikke tør stole på” til “værktøj, der sparer os timer hver dag, og hvis fejl vi fanger, før de gør skade”. Det er et fuldt realistisk og meget værdifuldt sted at være.

Målet er ikke fejlfri AI. Målet er AI, der fejler sjældent, fejler synligt, og aldrig fejler på et sted, hvor et menneske ikke ser det først.

Kom trygt i gang

Den rigtige måde at bruge AI på i en virksomhed er ikke at kaste sig ud i det og håbe, og heller ikke at lade være af frygt for fejl. Det er at bygge løsningen med de rette rammer fra starten: jeres egen viden, menneskelig kontrol og afgrænsede opgaver, der hvor det betyder noget.

Det er præcis det, vi laver hos Agent360. Vi bygger AI-agenter, der arbejder ud fra jeres egen viden og har mennesket i kontrollen, så I får gevinsten uden at overlade jeres troværdighed til et gæt.

Book en uforpligtende AI-samtale hos Agent360, så ser vi på, hvor AI kan give jer mest værdi, og hvordan vi holder fejlene der, hvor de ikke gør skade.