Skal I fortælle kunden, at svaret kommer fra en AI? Gennemsigtighedskrav i praksis

Ved direkte interaktion med et AI-system skal personen som udgangspunkt oplyses om det, medmindre det er indlysende ud fra situationen. Et AI-assisteret mailudkast eller dokument udløser ikke automatisk den samme pligt. Vurdér interaktion, genereret indhold og parternes roller hver for sig; nedenfor skelner vi mellem lovkrav og anbefalet åbenhed.

Hvad siger AI-forordningen om oplysningspligt

EU’s forordning om kunstig intelligens (AI-forordningen) indeholder en række gennemsigtighedsforpligtelser for visse typer AI-systemer, uafhængigt af om systemet i øvrigt er klassificeret som højrisiko. Formålet er at undgå, at mennesker vildledes eller udsættes for imitation, uden at de ved det.

Kernen i reglen for kundevendte AI-systemer er enkel: hvis et AI-system er tilsigtet at interagere direkte med en fysisk person, skal systemet udformes sådan, at personen får at vide, at vedkommende taler med en AI. Det gælder, medmindre det er indlysende ud fra en rimeligt velinformeret, opmærksom og forsigtig persons synspunkt, når man tager situationen og konteksten i betragtning.

Artikel 50, stk. 1, har en snæver undtagelse for AI-systemer, der ved lov er godkendt til at afsløre, forebygge, efterforske eller retsforfølge strafbare handlinger, med passende sikkerhedsforanstaltninger for tredjemands rettigheder. Undtagelsen gælder ikke systemer, som er tilgængelige for offentligheden til at anmelde en strafbar handling. Den er ikke et grundlag for at undlade oplysning i almindelige kommercielle kundeflows.

Hvornår er det “indlysende”, at det er AI

“Indlysende ud fra kontekst” er ikke det samme som “vi synes selv, det er tydeligt”. Vurderingen skal ske ud fra en rimeligt velinformeret, opmærksom og forsigtig persons synspunkt, altså en objektiv målestok, ikke virksomhedens egen opfattelse. I praksis betyder det, at et diskret ikon eller en linje i vilkårene typisk ikke er nok til at bære undtagelsen alene. Det, der reelt gør noget “indlysende”, er som regel en tydelig mærkning i selve interaktionen: et navn som “AI-assistent”, en synlig label i chatvinduet, eller en indledende sætning, der gør det klart, at der ikke sidder et menneske i den anden ende.

Er I i tvivl om, hvorvidt jeres flow er tydeligt nok til at falde under undtagelsen, er den robuste vej at oplyse det direkte frem for at læne sig op ad en fortolkning af “indlysende”. Det er billigere at skrive én sætning end at skulle forsvare en fortolkning bagefter.

Undtagelsen for retshåndhævelse

Retshåndhævelsesundtagelsen i artikel 50, stk. 1, vedrører særligt lovhjemlede anvendelser og omfatter ikke offentligt tilgængelige systemer til anmeldelse af strafbare handlinger. Almindelig kundekommunikation, kundeservice, salg og administration skal vurderes efter de relevante regler for det konkrete flow.

Gælder det jeres kundechat, mail og indbakke?

Det afhænger af den konkrete funktion. Direkte AI-interaktion skal vurderes efter artikel 50, stk. 1; indholdsmærkning følger særskilte regler. Menneskelig godkendelse er relevant, men er ikke en generel undtagelse fra alle krav.

Kundechat, hvor AI’en svarer selvstændigt: Her er der en direkte interaktion mellem AI-systemet og kunden. Pligten efter artikel 50, stk. 1, påhviler udbyderen. Ibrugtager I et system under eget navn, kan I selv være udbyder efter artikel 3, nr. 3. Kontrollér oplysningen til kunden og de undtagelser, der er beskrevet ovenfor.

Mail hvor en medarbejder bruger AI til at skrive udkast, men selv læser, redigerer og sender under eget navn: Et internt skriveværktøj er ikke alene af den grund direkte AI-interaktion med kunden efter stk. 1. Vurdér særskilt eventuelle regler om indholdet, databeskyttelse og vildledning. Frivillig åbenhed kan stadig være relevant.

Automatiske indbakke-svar og kvitteringer, der er rene skabeloner uden AI-model bag: Falder uden for AI-forordningens anvendelsesområde, fordi der slet ikke er tale om et AI-system, der genererer indholdet. Skabelontekst er ikke det samme som AI-genereret tekst.

AI-genererede dokumenter eller rapporter, der sendes til kunden som et selvstændigt produkt: Dokumentformatet afgør ikke oplysningspligten. Undersøg, om der er direkte AI-interaktion, eller om en særskilt indholdsregel finder anvendelse. En tydelig afsender og oplysning om AI-brug kan vælges som god praksis.

Vurderingen skal laves flow for flow. Skeln mellem kundens direkte interaktion med et AI-system, udbyderens mærkning af genereret output og jeres ansvar for det indhold, I offentliggør eller sender.

AI-genereret indhold: mærkning af tekst og dokumenter

Artikel 50, stk. 2, retter sig mod udbydere af AI-systemer, der genererer syntetisk lyd, billeder, video eller tekst. Output skal mærkes maskinlæsbart og kunne identificeres som kunstigt genereret eller manipuleret, med bestemmelsens tekniske afgrænsninger og undtagelser. Udbyderen af AI-systemet er ikke automatisk den underliggende modelleverandør; rollerne følger artikel 3. For systemer, der var på markedet før 2. august 2026, er fristen for stk. 2 den 2. december 2026, jf. artikel 111, stk. 4. Se Kommissionens aktuelle FAQ om artikel 50.

Deepfakes og syntetisk indhold

Deepfake-reglen omfatter bestemte kunstigt genererede eller manipulerede billeder, lyd og video, der kan fremstå ægte. Idriftsætteren skal oplyse om manipulationen. For åbenlyst kunstneriske, kreative, satiriske eller fiktive værker begrænses pligten til passende oplysning om indholdets eksistens, uden at værkets fremvisning eller nydelse hæmmes; det er ikke en fuld undtagelse. Almindelig AI-tekst er ikke en deepfake. For tekst offentliggjort med det formål at informere offentligheden om emner af offentlig interesse har stk. 4 en særskilt oplysningsregel og bl.a. en undtagelse ved menneskelig gennemgang eller redaktionel kontrol samt redaktionelt ansvar. Se artikel 50.

Forbrugerret og markedsføringsloven: vildledning uden om AI-forordningen

AI-forordningen er ikke den eneste ramme, der er relevant. Generel forbruger- og markedsføringsret bygger på et grundlæggende princip om, at kunder ikke må vildledes, uanset om vildledningen sker via en AI eller på anden vis. Hvis en kunde med rimelighed ville handle anderledes, hvis vedkommende vidste, at svaret kom fra en AI frem for en rådgiver, peger det i retning af, at oplysning er den rigtige vej, uafhængigt af den præcise juridiske klassifikation. Forbrugerombudsmanden fører tilsyn med markedsføringslovgivningen i Danmark, og virksomheder, der er i tvivl om en konkret kundevendt AI-praksis, kan søge vejledning der.

GDPR-perspektivet: hvorfor gennemsigtighed hænger sammen med databeskyttelse

Gennemsigtighed om, at der bruges AI, hænger ofte sammen med et andet spørgsmål: hvad sker der med kundens data, når AI’en behandler en henvendelse? Databeskyttelsesreglerne stiller egne krav til gennemsigtighed over for den registrerede: herunder at man kan blive oplyst om, hvordan ens oplysninger behandles, og om der sker automatiseret behandling. Det er et selvstændigt regelsæt med egne betingelser, og det er ikke ensbetydende med, at enhver brug af AI i kundekontakt automatisk udløser samme forpligtelser som AI-forordningens artikel om gennemsigtighed. Men i praksis er det klogt at tænke de to sammen: når I alligevel skal beskrive jeres AI-brug for kunden, er det oplagt også at være tydelig om, hvordan data behandles, og hvor de opbevares. Datatilsynet er den relevante myndighed for den del i Danmark og har regler og vejledning tilgængelig for virksomheder, der vil sætte sig ind i kravene.

For at kunne forklare databehandlingen skal I kende placering, adgang og underleverandører i den konkrete opsætning. Egen instans afgør ikke alene disse forhold og er ikke en juridisk garanti for compliance.

Sådan bygger I oplysningspligten ind i jeres skriftlige AI-flow

Den praktiske opgave er ikke kun at skrive en sætning om AI i vilkårene. Det er at bygge oplysningen ind der, hvor kunden rent faktisk møder AI’en.

Chat og indbakke

I en kundechat er den enkleste løsning en tydelig label ved samtalens start (“Du chatter med vores AI-assistent” eller tilsvarende) samt mulighed for at blive stillet videre til et menneske. Det samme gælder, hvis AI’en besvarer henvendelser i en fælles indbakke: modtageren bør kunne se, at svaret er AI-genereret, enten i selve teksten eller i et synligt felt omkring den.

Mails og dokumenter

Når en medarbejder bruger AI som internt skriveværktøj, opstår der ikke automatisk direkte AI-interaktion med kunden. For dokumenter og rapporter skal I undersøge relevante indholdsregler særskilt. I kan desuden vælge en synlig forklaring af AI-brug som god praksis; anbefalingen er ikke et udsagn om en generel mærkningspligt for alle dokumenter.

Egen instans og dataejerskab

Når I vælger platform til den slags skriftlige AI-flows, er det værd at lægge vægt på, hvor let det er at dokumentere og forklare jeres opsætning, hvis en kunde spørger. Jeres opsætning skal gøre det muligt at forklare, hvor data behandles, og hvem der har adgang. Også egne systemer og en egen instans kan bruge underleverandører, hvis vilkår og databehandling skal indgå i forklaringen. Det ændrer ikke ved, at I stadig selv skal tage stilling til, hvornår oplysningspligten over for kunden udløses, men det gør grundlaget for at svare præcist stærkere.

Hvad AI’en IKKE skal

• AI’en skal ikke selv afgøre, om en ny type kundeflow falder ind under undtagelsen “indlysende ud fra kontekst”: det er en juridisk vurdering, mennesker i virksomheden skal tage stilling til, gerne med rådgiver, når der er tvivl.
• AI’en skal ikke undlade mærkning for at “virke mere menneskelig” eller for at forbedre en oplevelsesmetrik. Det er præcis den type adfærd, reglerne er sat i verden for at forhindre.
• AI’en skal ikke bruges til at omgå forbrugerbeskyttelse eller markedsføringsregler ved at formulere sig, så kunden fejlagtigt tror, der er tale om en menneskelig rådgivning eller vurdering.
• Som intern praksis bør AI'en ikke udsende indhold til kunder, før I har afklaret menneskelig kontrol og relevant oplysning. Den konkrete lovpligt afhænger af funktion og indhold.
• AI’en skal ikke bruges til at give juridisk rådgivning om, hvorvidt jeres konkrete setup overholder reglerne, det kræver en konkret vurdering, evt. med ekstern rådgiver, ikke en generel tekst som denne.

Praktisk tjekliste før I går live

1. Kortlæg, hvor AI interagerer direkte med personer, hvor det er et internt skriveværktøj, og hvor I offentliggør genereret indhold.
2. Vurdér for hvert flow, om det er “indlysende” for en almindelig opmærksom kunde, at der er tale om AI, eller om det kræver en eksplicit oplysning.
3. Byg mærkningen ind i selve interaktionen, ikke kun i vilkårene, en synlig label i chatten eller en linje i mailen er billigere end en tvist bagefter.
4. Aftal internt, hvem der har ansvaret for at holde øje med, om nye AI-flows bliver rullet ud uden at gå gennem denne vurdering først.
5. Dokumentér jeres vurdering og valg, så I kan vise, at I aktivt har taget stilling, også selvom I lander på, at en konkret situation falder under undtagelsen.
6. Afklar roller, påkrævede databehandleraftaler og dataopbevaring parallelt med gennemsigtighedsvurderingen.
7. Søg vejledning hos Datatilsynet eller Forbrugerombudsmanden i konkrete tvivlstilfælde, denne artikel er ikke juridisk rådgivning.

Kort sagt: reglen er ikke svær at forstå, men den kræver, at I rent faktisk går jeres skriftlige AI-flows igennem ét for ét, i stedet for at klare det med én sætning i de generelle vilkår.

Ofte stillede spørgsmål

Sammenhæng med resten af jeres AI-arbejde

Gennemsigtighed over for kunden hænger naturligt sammen med, hvordan I i det hele taget bygger AI ind i virksomheden. Hvis I er i gang med at afklare, hvad en AI-agent til virksomheden egentlig dækker over, er oplysningspligten et af de praktiske spørgsmål, der følger med, når AI’en begynder at tale direkte med kunder. Det samme gælder, hvis I arbejder med CRM-automatisering, hvor AI-genererede noter og opfølgninger ofte ender i kundevendte flows uden at nogen har tænkt over mærkningen. Og hænger jeres AI-brug sammen med datahygiejne i CRM’et, er det oplagt at tage gennemsigtighedskravet med i samme oprydning, i stedet for at behandle det som et separat projekt.

Reglen er enkel at opsummere, men den kræver, at nogen i virksomheden rent faktisk går flows igennem: hvor taler AI’en direkte med en kunde, er det indlysende ud fra konteksten, og hvis ikke, er mærkningen bygget ind, der hvor kunden faktisk ser den. Det er billigere at gøre nu end at rydde op i bagefter.

Denne artikel er alment oplyst indhold og udgør ikke juridisk rådgivning. Kontakt en advokat eller den relevante myndighed for en konkret vurdering af jeres situation.