Hva sier KI-forordningen om chatboter?
EUs KI-forordning, som på engelsk ofte kalles AI Act, er et felles regelverk for kunstig intelligens i EU. Forordningen har regler om åpenhet. Når et AI-system er laget for å snakke direkte med mennesker, skal det etter disse reglene gå fram at de har med en AI å gjøre, med mindre det er åpenbart ut fra sammenhengen.
For en chat på en bedriftsnettside betyr det i praksis at kunden bør få vite at de snakker med en AI, ikke med deg eller en ansatt.
Dette er ikke juridisk rådgivning. Regelverket er nytt, og detaljene kan bli presisert i veiledninger og praksis. Er du i tvil om hva som gjelder for din bedrift, bør du spørre en advokat eller følge med på informasjon fra myndighetene.
Gjelder dette i Norge?
Norge er ikke medlem av EU, men er med i EØS. Regelverk som er relevant for EØS, tas inn i norsk rett gjennom EØS-avtalen. Regjeringen har varslet at KI-forordningen skal gjennomføres i Norge. Når og hvordan de enkelte reglene gjelder her, bør du sjekke hos norske myndigheter.
Uansett tidspunkt er det lurt å gjøre det riktig fra starten. Det koster ingenting å være åpen, og det er det kundene forventer.
Hvem har ansvaret?
For en chat på nettsiden ligger ansvaret for AI-merkingen først og fremst hos den som leverer AI-løsningen. Det er leverandøren som lager chatten og bestemmer hvordan den presenterer seg.
Du bør likevel sørge for at det er tydelig. Det er din nettside og dine kunder. Velg en leverandør som har lagt inn AI-merking, og sjekk selv at den faktisk vises før chatten går live.
Hvordan sier chatten at den er en AI?
Enklest i velkomstmeldingen, før kunden har skrevet noe. For eksempel: «Hei, jeg er en AI-assistent for [bedriftsnavn]. Hva lurer du på?» Det kan også stå i overskriften på chatvinduet, slik at det er synlig hele tiden. Begge deler er gode valg.
Unngå å gjemme informasjonen i små bokstaver, i vilkår eller i en lenke kunden må trykke på. Poenget er at kunden faktisk skal forstå det.
Kan chatten ha et navn?
Den kan ha et navn, men det bør ikke skape inntrykk av at det er et menneske. En chat som presenterer seg med et vanlig fornavn og et bilde av en smilende person, uten å si at den er en AI, gir kunden feil inntrykk. Et navn sammen med en tydelig beskjed om at det er en AI-assistent, er noe annet.
Det enkleste er ofte å la chatten presentere seg som bedriftens AI-assistent, uten et eget navn.
Hva hvis kunden spør om de snakker med et menneske?
Da skal chatten svare ærlig. Den skal aldri påstå at den er et menneske. Sett opp chatten slik at den bekrefter at den er en AI, og tilbyr å sette kunden i kontakt med deg hvis de heller vil det.
Test dette før chatten går live. Spør den rett ut, og prøv også å lure den til å si at den er et menneske.
Blir kundene skeptiske når de vet at det er en AI?
Noen kan bli det. Men den som vet at det er en AI, vet også hva slags svar de får, og blir ikke overrasket når den sier at du må svare på noe selv. Den som oppdager at de har snakket med en maskin uten å vite det, kan føle seg lurt.
Det viktigste er at chatten er nyttig. En AI som raskt gir et riktig svar og tar imot henvendelsen, er bedre enn et skjema ingen svarer på.
Hva med chat som har både AI og mennesker?
Noen løsninger lar en AI svare først, og et menneske ta over senere. Da bør kunden få vite når det skjer. Det er ikke nok å si at det er en AI i starten, hvis det plutselig sitter et menneske på den andre siden, eller omvendt. Si tydelig fra ved hvert bytte, for eksempel «Nå tar en av oss over samtalen».
Det samme gjelder hvis AI-en skriver forslag som en ansatt sender videre. Tenk gjennom hvem kunden egentlig snakker med, og vær ærlig om det.
Gjelder det andre regler også?
Ja. En chat som samler inn navn og telefonnummer, behandler personopplysninger, og da gjelder personvernreglene. Markedsføringsreglene gjelder også. Chatten skal ikke gi villedende informasjon om priser eller tjenester. Les rådet om personvern og chat på nettsiden.
Hva med AI i e-post og telefon?
Åpenhetskravet handler om AI-systemer som samhandler direkte med mennesker. Det kan også gjelde andre kanaler enn chat, for eksempel telefonroboter som snakker med kundene. Bruker du AI til å skrive utkast til e-poster som du selv leser og sender, er situasjonen en annen, fordi det er du som står bak meldingen.
Et godt prinsipp uansett: Kunden skal ikke tro at de snakker med deg når de snakker med en maskin. Er du i tvil om det som gjelder for din bruk, sjekk med en rådgiver.
Hva gjør du nå?
Sjekk chatten på nettsiden din, hvis du har en. Står det tydelig at det er en AI, før kunden begynner å skrive? Svarer den ærlig hvis kunden spør? Hvis ikke, be leverandøren om å rette det.
Skal du skaffe en chat, spør leverandøren hvordan AI-merkingen er løst, og be om å få se det.
Hvordan gjør Kundefangst det?
Chatten fra Kundefangst sier alltid at den er en AI. Det står i velkomstmeldingen, før kunden har skrevet noe. Den svarer bare ut fra en kunnskapsbase du har godkjent, og tilbyr å ta imot en henvendelse til deg når kunden vil snakke med et menneske. Les mer om AI-kundeservice for små bedrifter.