Datatilsynet: Offentlige KI-chatboter er ikke anonyme i praksis

Datatilsynet har publisert konklusjonene fra et sandkasseprosjekt med Helsedirektoratet om KI-baserte samtaleroboter på offentlige nettsider. Hovedpunktet er enkelt og viktig: slike løsninger kan ikke uten videre behandles som anonyme.

Helsedirektoratet ønsket å utforske to KI-baserte samtaleroboter som kan gi råd om helse og livsstil. Temaene er følsomme: mental og seksuell helse, ernæring, fysisk aktivitet, avhengighet og rusmidler, selvomsorg, digital sikkerhet og bruk av offentlige helsetjenester. Målet er mer tilgjengelig og tilpasset helseinformasjon.

Datatilsynet vurderte om opplysningene brukerne legger inn kan regnes som anonyme, og om Helsedirektoratet trenger rettslig grunnlag etter personvernregelverket. Konklusjonen er at løsningene ikke er å anse som anonyme. Dermed må personvernreglene følges.

Anonymitet holder ikke som antakelse

Dette er den praktiske kjernen i saken. Mange offentlige og private virksomheter ønsker å tilby KI-veiledning uten å gjøre løsningen tung, juridisk og teknisk krevende. Da er det fristende å si at brukeren ikke logger inn, og at løsningen derfor er anonym. Datatilsynet legger terskelen høyere.

I sandkasseprosjektet vurderte tilsynet risiko for re-identifisering. Når brukere skriver fritekst om helse, livssituasjon, symptomer, rus, seksualitet eller tjenester de bruker, kan innholdet i seg selv bli personopplysninger. Det gjelder selv uten navn og fødselsnummer. En språkmodell som tar imot slike opplysninger, behandler ikke bare «spørsmål». Den behandler kontekst som kan knyttes til en person.

For offentlig sektor er dette et viktig signal. KI-chatboter på nettsider må designes med personvern som premiss fra start. Det holder ikke å legge inn en advarsel i grensesnittet og håpe at brukeren ikke skriver noe sensitivt.

Samtykke kan være mulig, men ikke lettvint

Datatilsynet skriver at det kan være mulig å oppfylle kravene til samtykke for denne typen samtaleroboter etter GDPR artikkel 6 nr. 1 bokstav a og artikkel 9 nr. 2 bokstav a. Det siste er relevant fordi helseopplysninger er særlige kategorier av personopplysninger.

Samtidig sier tilsynet at det per nå ikke finnes supplerende rettsgrunnlag som gjør at Helsedirektoratet kan behandle personopplysninger i løsningene for å utføre en rettslig forpliktelse, en oppgave i allmennhetens interesse eller utøve offentlig myndighet. Det er en tydelig beskjed til offentlige virksomheter som vurderer KI-veiledning i tjenesteproduksjon.

Samtykke i offentlig sektor er krevende. Brukeren må forstå hva som behandles, hvorfor det behandles, hvilke risikoer som finnes, og at samtykket kan trekkes tilbake. Når temaet er helse og veiledning fra en offentlig aktør, kan det også oppstå spørsmål om samtykket faktisk er frivillig nok.

Dette treffer mer enn helse

Saken gjelder Helsedirektoratet, men rekkevidden er bredere. Kommuner, direktorater, statlige etater og offentlige selskaper vurderer allerede KI-baserte veiledere for innbyggere, ansatte og kunder. Temaene kan være skatt, NAV-ytelser, byggesak, skole, juridisk veiledning, helse, sikkerhet eller klager.

Fellesnevneren er at brukeren ofte skriver mer enn virksomheten forventer. En samtalerobot inviterer til fritekst. Da kan sensitive opplysninger dukke opp selv om tjenesten ikke ber om dem. Dette må håndteres i arkitektur, logging, dataminimering, tilgangsstyring, leverandøravtaler og sletting.

For CIO og CISO betyr det at KI-chatboter ikke bør lanseres som et front-end-prosjekt alene. Det må finnes en datakartlegging, en DPIA der risikoen tilsier det, en vurdering av modell- og leverandørvalg, og en konkret plan for hva som logges, hva som sendes videre, og hvem som kan se samtalene.

Praktisk konsekvens for ledelsen

Ledergrupper bør ta med seg fire spørsmål før neste KI-chatbot settes i produksjon.

For det første: Kan brukeren realistisk komme til å dele personopplysninger eller sensitive opplysninger, selv om vi ikke ber om det? Hvis svaret er ja, er løsningen ikke anonym i praksis.

For det andre: Hvilket rettslig grunnlag brukes, og er det robust nok for offentlig sektor? Samtykke kan være mulig, men krever god utforming og reell kontroll for brukeren.

For det tredje: Hvilke tekniske og organisatoriske tiltak er testet før lansering? Datatilsynet peker på behovet for risikoreduserende tiltak, ikke bare dokumentasjon.

For det fjerde: Hvordan forklares dette til innbyggeren? En offentlig KI-tjeneste må være forståelig. Brukeren bør vite hva roboten kan, hva den ikke kan, og hva som skjer med informasjonen som skrives inn.

Datatilsynet understreker at sandkassen gir råd, ikke offisielle vedtak eller godkjenninger. Likevel er signalet klart nok: offentlige KI-chatboter kan være nyttige, men de må bygges som personvernintensive tjenester. Ikke som anonyme søkefelt med hyggelig språkdrakt.

Kilder og medier

Primærkilde: Datatilsynet, https://www.datatilsynet.no/aktuelt/aktuelle-nyheter-2026/samtaleroboter-pa-offentlige-virksomheters-nettsider/

Kildekreditering: Datatilsynet beskriver sandkasseprosjektet med Helsedirektoratet, hovedkonklusjonene om anonymitet, rettslig grunnlag, samtykke og behovet for tekniske og organisatoriske tiltak.

Thumbnail: OpenAI Image 2 / hogby.ai