Hvem hæfter, når AI laver en fejl i virksomheden?

Som udgangspunkt bærer virksomheden selv ansvaret for det, den sætter i drift, også når arbejdet udføres af en AI. En AI-løsning er et værktøj i jeres processer på linje med en medarbejder eller et system, og over for kunder, myndigheder og samarbejdspartnere er det jer, der står på mål for resultatet. Derfor er svaret ikke “AI’en tager ansvaret”, men “byg processen så et menneske står bag de beslutninger, der betyder noget”. Det er dét, denne artikel handler om.

Vigtigt først: Dette er ikke juridisk rådgivning. Konkret ansvar afhænger altid af den konkrete situation, jeres aftaler og gældende regler, og bør vurderes af en advokat, når noget er alvorligt eller uklart. Det følgende er en ærlig, praktisk gennemgang af, hvordan man tænker ansvaret igennem, så I går ind i AI med åbne øjne.

Grundprincippet: I hæfter for jeres egne processer

Den mest udbredte misforståelse er, at ansvaret “flytter over” til teknologien eller til leverandøren, når man automatiserer noget. Det gør det som udgangspunkt ikke.

Når jeres virksomhed sender et tilbud, svarer en kunde, bogfører en faktura eller træffer en beslutning, er det virksomheden, der handler: uanset om det er en medarbejder, et regneark eller en AI, der har udført opgaven. En AI, der laver en fejl, er i den forstand ikke så forskellig fra en ny medarbejder, der laver en fejl: det er stadig virksomhedens navn på resultatet, og det er virksomheden, kunden holder ansvarlig.

Det betyder også, at ansvaret ikke forsvinder, fordi I ikke selv skrev den konkrete sætning eller udførte den konkrete handling. Har I sat en proces i drift, har I også ansvaret for, at den fungerer forsvarligt, og for at gribe ind, hvis den ikke gør.

Den gode nyhed er, at det er præcis den samme logik, I allerede bruger på alt andet i virksomheden. I har rutiner for, hvem der godkender hvad, hvornår noget skal dobbelttjekkes, og hvornår en beslutning er stor nok til at gå op ad ledelsesstrengen. AI ændrer ikke princippet: det gør bare arbejdet hurtigere, og det stiller derfor skarpere krav til, at kontrollen er tænkt igennem på forhånd.

Menneskelig kontrol på de beslutninger, der betyder noget

Fordi ansvaret bliver hos jer, er det vigtigste enkeltgreb at afgøre, hvor et menneske skal ind i loopet. Det handler ikke om at have et menneske til at godkende alt (så mister man hele gevinsten) men om at være bevidst om, hvilke beslutninger der er kritiske nok til at kræve en godkendelse.

En brugbar måde at inddele det på:

Lav risiko, AI kan køre selvstændigt

Interne udkast, forslag, sortering, sammenfatninger, første-versioner. Her er konsekvensen af en fejl lille og let at rette, og hastigheden er hele pointen. Et menneske ser resultatet, men behøver ikke godkende hvert enkelt trin.

Mellem risiko, menneske godkender før afsendelse

Kundevendt kommunikation, tilbud, tekster der går ud af huset. AI’en laver oplægget, et menneske læser det igennem og trykker send. Det koster få sekunder og fjerner langt de fleste pinlige eller dyre fejl.

Høj risiko, menneske træffer beslutningen, AI understøtter

Aftaler med økonomiske forpligtelser, personfølsomme forhold, juridiske eller sikkerhedsmæssige beslutninger. Her bør AI’en levere grundlag, overblik og udkast, men beslutningen ligger hos et menneske, der kan holdes ansvarligt for den.

Pointen er ikke at bremse AI’en, men at placere den menneskelige kontrol dér, hvor en fejl faktisk gør ondt. Det er både den ansvarlige måde og den måde, der giver ro i maven til at bruge AI bredt på alt det andet.

Leverandøraftaler og databehandleraftaler

Når I bruger en ekstern AI-leverandør, opstår et andet lag: forholdet mellem jer og leverandøren. Her er to ting værd at have styr på.

Selve leverandøraftalen beskriver, hvad leverandøren står inde for, hvad de fralægger sig, og hvordan ansvar er fordelt mellem jer. Mange standardaftaler for softwaretjenester lægger en stor del af ansvaret for brugen hos kunden, altså jer. Læs derfor, hvad der faktisk står, før I antager, at leverandøren “dækker” fejl. Er noget uklart eller vigtigt, er det et oplagt sted at få en advokat til at kigge med.

Databehandleraftalen er relevant, hvis AI-løsningen behandler personoplysninger på jeres vegne, for eksempel kundedata. Efter databeskyttelsesreglerne skal der være styr på, hvem der behandler hvilke data, til hvilket formål, og hvordan de beskyttes. Det er et område, hvor det sjældent kan betale sig at gætte; få det på plads skriftligt, og involvér rådgivning hvis I er i tvivl om, hvorvidt en konkret aftale er tilstrækkelig.

En sund tommelfingerregel: antag, at ansvaret for hvordan I bruger løsningen bliver hos jer, med mindre en aftale udtrykkeligt siger andet. Det holder jer på den forsigtige side.

Forsikring, spørg jeres eget selskab

Et naturligt spørgsmål er, om jeres eksisterende erhvervsforsikringer dækker skader, der udspringer af en AI-fejl. Det ærlige svar er: det ved kun jeres forsikringsselskab.

Forsikringsdækning afhænger fuldstændigt af den konkrete police, jeres branche og den konkrete hændelse. Vi kan ikke (og ingen leverandør bør) love jer, at “det er dækket”. Det, I kan gøre, er at tage fat i jeres forsikringsselskab eller -mægler og stille spørgsmålet direkte: Hvordan forholder vores nuværende dækning sig til fejl, der opstår, når vi bruger AI i vores processer? Det er en billig samtale at tage på forhånd og en dyr erkendelse at få bagefter.

Behandl altså forsikring som en aktiv afklaring, ikke som en antagelse.

Dokumentation og sporbarhed

Uanset hvor ansvaret ender, står I langt stærkere, hvis I kan vise, hvad der skete, og at I handlede fornuftigt. Sporbarhed er både god drift og et værn, hvis noget går galt.

Praktisk betyder det at kunne svare på:

• Hvad blev besluttet, og af hvem? Kan I se, om et menneske godkendte, eller om noget gik automatisk igennem?
• Hvad byggede beslutningen på? Hvilke oplysninger havde AI’en, da den lavede sit oplæg?
• Hvornår skete det? En simpel tidslinje gør en stor forskel, hvis en sag skal rekonstrueres.

Det behøver ikke være tungt. Ofte rækker det at logge de kritiske trin (hvem godkendte hvad hvornår) frem for at forsøge at gemme alt. Formålet er, at I kan dokumentere, at processen var forsvarlig, og hurtigt finde ud af, hvor en fejl opstod, hvis den gør.

Hvornår bør I spørge en advokat?

Meget kan I selv tænke igennem. Men der er situationer, hvor professionel juridisk rådgivning er pengene værd, og hvor det er direkte uansvarligt at nøjes med en artikel som denne:

• Når AI’en indgår i beslutninger med væsentlige økonomiske konsekvenser eller bindende aftaler.
• Når der behandles personfølsomme oplysninger, og I er usikre på reglerne.
• Når I skal underskrive en leverandør- eller databehandleraftale, I ikke fuldt forstår.
• Når en fejl allerede er sket, og der er en reel tvist eller et krav på vej.
• Når AI’en rører ved et reguleret område i jeres branche.

At involvere en advokat på de rigtige tidspunkter er ikke et tegn på, at AI er farligt, det er samme sunde fornuft, I bruger på alle andre væsentlige beslutninger i virksomheden.

Sådan gør vi det hos Agent360

Hos Agent360 bygger vi AI-løsninger med menneske-i-loop som en grundpræmis, ikke en eftertanke. Vi hjælper jer med at afgøre, hvor AI’en trygt kan køre selvstændigt, og hvor et menneske skal godkende, før noget går ud af huset, så I får hastigheden uden at give slip på kontrollen med det, der betyder noget.

Vi rådgiver ærligt: vi lover jer ikke, at ansvar eller forsikring er “løst”, for det afhænger af jeres situation. Men vi bygger jeres processer, så de er gennemtænkte, sporbare og forsvarlige, og så I ved præcis, hvor mennesket sidder i beslutningerne.

Book en uforpligtende AI-samtale hos Agent360. Vi ser på jeres processer, taler åbent om ansvar og kontrol, og finder de steder, hvor AI giver mest værdi med mindst risiko.

Denne artikel er generel information, ikke juridisk rådgivning. Konkret ansvar afhænger af aftale og situation, søg professionel rådgivning ved tvivl.