Skal I fortælle kunden, at svaret kommer fra en AI? Gennemsigtighedskrav i praksis

Ja, i mange tilfælde skal I det. EU’s AI-forordning kræver, at fysiske personer får besked, hvis de interagerer med et AI-system, medmindre det allerede er indlysende ud fra situationen. Kravet gælder skriftlig kundekontakt som chat, mail og AI-genererede dokumenter, ikke kun stemme eller video. Undtagelsen er snæver: konteksten skal være så tydelig, at en almindelig opmærksom person selv ville forstå, at det er en AI. Er I i tvivl, er den sikre løsning at oplyse det.

Hvad siger AI-forordningen om oplysningspligt

EU’s forordning om kunstig intelligens (AI-forordningen) indeholder en række gennemsigtighedsforpligtelser for visse typer AI-systemer, uafhængigt af om systemet i øvrigt er klassificeret som højrisiko. Formålet er at undgå, at mennesker vildledes eller udsættes for imitation, uden at de ved det.

Kernen i reglen for kundevendte AI-systemer er enkel: hvis et AI-system er tilsigtet at interagere direkte med en fysisk person, skal systemet udformes sådan, at personen får at vide, at vedkommende taler med en AI. Det gælder, medmindre det er indlysende ud fra en rimeligt velinformeret, opmærksom og forsigtig persons synspunkt, når man tager situationen og konteksten i betragtning.

Der findes en snæver undtagelse for AI-systemer, der ved lov er godkendt til at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger, forudsat at der er passende sikkerhedsforanstaltninger for tredjemands rettigheder. Den undtagelse er ikke relevant for almindelig kundekommunikation, kundeservice, salg eller administration, som er det, denne artikel handler om.

Hvornår er det “indlysende”, at det er AI

“Indlysende ud fra kontekst” er ikke det samme som “vi synes selv, det er tydeligt”. Vurderingen skal ske ud fra en rimeligt velinformeret, opmærksom og forsigtig persons synspunkt — altså en objektiv målestok, ikke virksomhedens egen opfattelse. I praksis betyder det, at et diskret ikon eller en linje i vilkårene typisk ikke er nok til at bære undtagelsen alene. Det, der reelt gør noget “indlysende”, er som regel en tydelig mærkning i selve interaktionen: et navn som “AI-assistent”, en synlig label i chatvinduet, eller en indledende sætning, der gør det klart, at der ikke sidder et menneske i den anden ende.

Er I i tvivl om, hvorvidt jeres flow er tydeligt nok til at falde under undtagelsen, er den robuste vej at oplyse det direkte frem for at læne sig op ad en fortolkning af “indlysende”. Det er billigere at skrive én sætning end at skulle forsvare en fortolkning bagefter.

Undtagelsen for retshåndhævelse

Forordningens undtagelse for retshåndhævelse er snævert formuleret og retter sig mod AI-systemer, der er lovligt godkendt til kriminalitetsbekæmpelse. Den er ikke relevant for kommercielle kundeflows, og virksomheder bør ikke forsøge at læne sig op ad den for at undgå oplysningspligten i almindelig kundekontakt.

Gælder det jeres kundechat, mail og indbakke?

Ja — men graden af oplysningspligt afhænger af, hvor tæt AI’en er på at “være” afsenderen over for kunden, og om et menneske reelt er involveret i det, kunden modtager.

Kundechat, hvor AI’en svarer selvstændigt: Her er der en direkte interaktion mellem AI-systemet og kunden, og oplysningspligten gælder som udgangspunkt fuldt ud, medmindre chatten allerede er tydeligt mærket som en AI-assistent fra start.

Mail hvor en medarbejder bruger AI til at skrive udkast, men selv læser, redigerer og sender under eget navn: Her er det stadig medarbejderen, der er afsender og ansvarlig for indholdet. Situationen minder mindre om “AI interagerer direkte med en person” og mere om et internt skriveværktøj. Det ændrer ikke ved, at gennemsigtighed generelt er god praksis — men den akutte oplysningspligt i forordningens forstand er mindre skarp, når et menneske har det redaktionelle og afsendermæssige ansvar.

Automatiske indbakke-svar og kvitteringer, der er rene skabeloner uden AI-model bag: Falder uden for AI-forordningens anvendelsesområde, fordi der slet ikke er tale om et AI-system, der genererer indholdet. Skabelontekst er ikke det samme som AI-genereret tekst.

AI-genererede dokumenter eller rapporter, der sendes til kunden som et selvstændigt produkt: Her nærmer man sig igen direkte AI-til-menneske-interaktion, og en mærkning af, at dokumentet er AI-assisteret, er den sikre vej.

Pointen er, at “skal vi oplyse det” ikke er et ja/nej for hele virksomheden på én gang — det er en vurdering, der skal laves flow for flow, ud fra hvor tæt AI’en er på at være den, kunden reelt taler med.

AI-genereret indhold: mærkning af tekst og dokumenter

Ud over pligten til at oplyse, at man taler med en AI, indeholder forordningen også en forpligtelse rettet mod udbydere af AI-systemer, der genererer syntetisk lyd-, billed-, video- eller tekstindhold: outputtet skal kunne mærkes i et maskinlæsbart format og spores som kunstigt genereret eller manipuleret, i det omfang det er teknisk muligt. Denne forpligtelse ligger primært hos udbyderen af selve AI-systemet (leverandøren bag modellen), men den er relevant at kende, når I vælger og konfigurerer værktøjer til skriftligt AI-indhold — for eksempel AI-genererede tilbud, rapporter eller nyhedsbreve.

Deepfakes og syntetisk indhold

Forordningen har en særskilt, strengere regel for såkaldte deepfakes: billed-, lyd- eller videoindhold, der ligner virkelige personer, genstande, steder eller begivenheder, og som fejlagtigt vil fremstå ægte for en person. Her skal det klart og synligt oplyses, at indholdet er kunstigt skabt eller manipuleret. Der er en undtagelse for åbenlyst kreativt, satirisk, kunstnerisk eller fiktivt indhold, forudsat passende sikkerhedsforanstaltninger. Denne artikel handler om skriftlig kundekontakt, og det er værd at bemærke, at deepfake-reglen primært er relevant, hvis I arbejder med syntetisk billed- eller videoindhold — ikke almindelig AI-genereret tekst i en kundemail.

Forbrugerret og markedsføringsloven: vildledning uden om AI-forordningen

AI-forordningen er ikke den eneste ramme, der er relevant. Generel forbruger- og markedsføringsret bygger på et grundlæggende princip om, at kunder ikke må vildledes — uanset om vildledningen sker via en AI eller på anden vis. Hvis en kunde med rimelighed ville handle anderledes, hvis vedkommende vidste, at svaret kom fra en AI frem for en rådgiver, peger det i retning af, at oplysning er den rigtige vej, uafhængigt af den præcise juridiske klassifikation. Forbrugerombudsmanden fører tilsyn med markedsføringslovgivningen i Danmark, og virksomheder, der er i tvivl om en konkret kundevendt AI-praksis, kan søge vejledning der.

GDPR-perspektivet: hvorfor gennemsigtighed hænger sammen med databeskyttelse

Gennemsigtighed om, at der bruges AI, hænger ofte sammen med et andet spørgsmål: hvad sker der med kundens data, når AI’en behandler en henvendelse? Databeskyttelsesreglerne stiller egne krav til gennemsigtighed over for den registrerede — herunder at man kan blive oplyst om, hvordan ens oplysninger behandles, og om der sker automatiseret behandling. Det er et selvstændigt regelsæt med egne betingelser, og det er ikke ensbetydende med, at enhver brug af AI i kundekontakt automatisk udløser samme forpligtelser som AI-forordningens artikel om gennemsigtighed. Men i praksis er det klogt at tænke de to sammen: når I alligevel skal beskrive jeres AI-brug for kunden, er det oplagt også at være tydelig om, hvordan data behandles, og hvor de opbevares. Datatilsynet er den relevante myndighed for den del i Danmark og har regler og vejledning tilgængelig for virksomheder, der vil sætte sig ind i kravene.

Her spiller det ind, hvordan jeres AI-opsætning er skruet sammen rent teknisk. Kører AI’en i egen instans med egen database pr. kunde, er det lettere at svare præcist på, hvor data ligger, og hvem der har adgang — hvilket gør det lettere at være konkret over for kunden, når I alligevel skal være gennemsigtige om AI-brugen. Det er ikke en juridisk garanti for compliance, men det reducerer den type usikkerhed, der opstår, når data flyder gennem tredjeparters skyer, man ikke selv har fuldt overblik over.

Sådan bygger I oplysningspligten ind i jeres skriftlige AI-flow

Den praktiske opgave er ikke kun at skrive en sætning om AI i vilkårene. Det er at bygge oplysningen ind der, hvor kunden rent faktisk møder AI’en.

Chat og indbakke

I en kundechat er den enkleste løsning en tydelig label ved samtalens start — “Du chatter med vores AI-assistent” eller tilsvarende — samt mulighed for at blive stillet videre til et menneske. Det samme gælder, hvis AI’en besvarer henvendelser i en fælles indbakke: modtageren bør kunne se, at svaret er AI-genereret, enten i selve teksten eller i et synligt felt omkring den.

Mails og dokumenter

Hvor en medarbejder bruger AI som skriveværktøj og selv sender under eget navn, er den skarpe oplysningspligt mindre relevant, fordi mennesket er afsender. Men for AI-genererede dokumenter, der sendes som et selvstændigt produkt — for eksempel en automatisk genereret rapport eller et tilbudsudkast, der ikke er gennemlæst af et menneske før afsendelse — bør I overveje en synlig mærkning, både af hensyn til forordningen og for at undgå tvivl hos kunden.

Egen instans og dataejerskab

Når I vælger platform til den slags skriftlige AI-flows, er det værd at lægge vægt på, hvor let det er at dokumentere og forklare jeres opsætning, hvis en kunde spørger. En platform som Agent360, der kører som virksomhedens egen AI-platform i én IDE — med egen instans og egen database pr. kunde, og mulighed for selv at hoste — gør det lettere at give et konkret og ærligt svar på, hvor data ligger, og hvordan AI’en er sat op, frem for at skulle henvise til en tredjeparts generelle vilkår. Det ændrer ikke ved, at I stadig selv skal tage stilling til, hvornår oplysningspligten over for kunden udløses — men det gør grundlaget for at svare præcist stærkere.

Hvad AI’en IKKE skal

• AI’en skal ikke selv afgøre, om en ny type kundeflow falder ind under undtagelsen “indlysende ud fra kontekst” — det er en juridisk vurdering, mennesker i virksomheden skal tage stilling til, gerne med rådgiver, når der er tvivl.
• AI’en skal ikke undlade mærkning for at “virke mere menneskelig” eller for at forbedre en oplevelsesmetrik. Det er præcis den type adfærd, reglerne er sat i verden for at forhindre.
• AI’en skal ikke bruges til at omgå forbrugerbeskyttelse eller markedsføringsregler ved at formulere sig, så kunden fejlagtigt tror, der er tale om en menneskelig rådgivning eller vurdering.
• AI’en skal ikke selv sende AI-genererede dokumenter til kunder uden mærkning, hvis intet menneske har godkendt indholdet først.
• AI’en skal ikke bruges til at give juridisk rådgivning om, hvorvidt jeres konkrete setup overholder reglerne — det kræver en konkret vurdering, evt. med ekstern rådgiver, ikke en generel tekst som denne.

Praktisk tjekliste før I går live

1. Kortlæg hvor i kundekontakten AI’en interagerer direkte med en person — chat, indbakke, dokumenter — og hvor et menneske reelt er afsender.
2. Vurdér for hvert flow, om det er “indlysende” for en almindelig opmærksom kunde, at der er tale om AI, eller om det kræver en eksplicit oplysning.
3. Byg mærkningen ind i selve interaktionen, ikke kun i vilkårene — en synlig label i chatten eller en linje i mailen er billigere end en tvist bagefter.
4. Aftal internt, hvem der har ansvaret for at holde øje med, om nye AI-flows bliver rullet ud uden at gå gennem denne vurdering først.
5. Dokumentér jeres vurdering og valg, så I kan vise, at I aktivt har taget stilling — også selvom I lander på, at en konkret situation falder under undtagelsen.
6. Tjek jeres databehandleraftaler og dataopbevaring parallelt, så gennemsigtighed om AI-brug og gennemsigtighed om databehandling hænger sammen, når kunden spørger.
7. Søg vejledning hos Datatilsynet eller Forbrugerombudsmanden i konkrete tvivlstilfælde — denne artikel er ikke juridisk rådgivning.

Kort sagt: reglen er ikke svær at forstå, men den kræver, at I rent faktisk går jeres skriftlige AI-flows igennem ét for ét, i stedet for at klare det med én sætning i de generelle vilkår.

Ofte stillede spørgsmål

Sammenhæng med resten af jeres AI-arbejde

Gennemsigtighed over for kunden hænger naturligt sammen med, hvordan I i det hele taget bygger AI ind i virksomheden. Hvis I er i gang med at afklare, hvad en AI-agent til virksomheden egentlig dækker over, er oplysningspligten et af de praktiske spørgsmål, der følger med, når AI’en begynder at tale direkte med kunder. Det samme gælder, hvis I arbejder med CRM-automatisering, hvor AI-genererede noter og opfølgninger ofte ender i kundevendte flows uden at nogen har tænkt over mærkningen. Og hænger jeres AI-brug sammen med datahygiejne i CRM’et, er det oplagt at tage gennemsigtighedskravet med i samme oprydning, i stedet for at behandle det som et separat projekt.

Reglen er enkel at opsummere, men den kræver, at nogen i virksomheden rent faktisk går flows igennem: hvor taler AI’en direkte med en kunde, er det indlysende ud fra konteksten, og hvis ikke — er mærkningen bygget ind, der hvor kunden faktisk ser den. Det er billigere at gøre nu end at rydde op i bagefter.

Denne artikel er alment oplyst indhold og udgør ikke juridisk rådgivning. Kontakt en advokat eller den relevante myndighed for en konkret vurdering af jeres situation.