Meta stanser AI-trening på ansattes maskinbruk

Meta har satt et internt AI-opplæringsprogram på pause etter at data fra programmet ble tilgjengelig for flere ansatte enn tiltenkt. Ifølge WIRED samlet programmet inn musebevegelser, klikkplasseringer, tastetrykk og skjerminnhold fra amerikanske Meta-ansatte for å trene AI-systemer til å bruke datamaskiner slik mennesker gjør.

Saken er mer enn et internt Meta-problem. Den viser en ny type styringsrisiko: For å trene agent-AI trenger selskapene detaljerte spor av hvordan mennesker faktisk arbeider. Det er nettopp de sporene som kan være mest sensitive.

Meta sier til WIRED at programmet var designet med personverntiltak, at selskapet ikke har indikasjoner på at data ble misbrukt av ansatte, og at programmet pauses mens forholdet undersøkes. En intern melding skal ha sagt at sikkerhetsproblemet ble oppdaget 18. juni og rettet innen fire timer, men at den første rettingen ikke holdt og at tilgangen måtte strammes inn ytterligere.

Når arbeidsflyt blir treningsdata

Programmet heter Model Compatibility Initiative, MCI, ifølge WIRED. Det ble rullet ut i april til ansatte i USA. Hensikten var å samle detaljerte signaler fra faktisk maskinbruk, slik at AI-systemer kan lære hvordan mennesker navigerer programvare og utfører oppgaver.

Det er en logisk retning for agent-AI. Skal en agent bruke regneark, nettleser, saksbehandlingssystemer eller utviklerverktøy bedre, trenger den eksempler fra ekte arbeidsflyt. Problemet er at ekte arbeidsflyt inneholder mye mer enn klikk og kommandoer. Den kan inneholde personopplysninger, kundedata, interne diskusjoner, sikkerhetsinformasjon, lønn, strategi, juridiske vurderinger og feil som aldri var ment å bli datasett.

For ledere er dette den praktiske lærdommen: AI-trening på arbeidsflater er ikke bare et modellprosjekt. Det er behandling av ansattdata og potensielt kundedata. Da må det styres med samme alvor som annen overvåking, logging og analyse av ansattes brukeratferd.

Frivillighet, formål og tilgang

WIRED skriver at ansatte protesterte mot programmet av hensyn til personvern, sikkerhet og personlig frihet. Ved lansering kunne ansatte ikke velge det bort, men Meta skal senere ha åpnet for en begrenset form for reservasjon etter intern motstand.

Dette er gjenkjennelig også utenfor Silicon Valley. Mange virksomheter ønsker å bruke egne prosesser og egne ansatte som treningsgrunnlag for AI. Det kan gi bedre modeller og mer relevante agenter. Men hvis formålet er uklart, samtykket svakt og tilgangen for bred, blir produktivitetsprosjektet raskt et tillitsproblem.

Tre spørsmål bør komme før teknologien. Hvilke konkrete oppgaver skal dataene brukes til å forbedre? Hvilke datafelter er nødvendige, og hvilke må aldri samles? Hvem kan se rådata, avledede datasett og modellartefakter i etterkant?

Meta-saken viser at den siste delen ofte undervurderes. Det holder ikke å ha en policy for innsamling hvis datasett, databaser og avledede data senere får feil tilgangsrettigheter. AI-prosjekter lager kopier, mellomlagringer, annoteringer, evalueringssett og logger. Hvert lag trenger eier, klassifisering og tilgangskontroll.

CISO og DPO må inn tidligere

Mange AI-initiativer starter i produkt, HR, utvikling eller analyse. CISO og DPO kommer inn når noen ber om godkjenning, ikke når datadesignet formes. Det er for sent for prosjekter som samler skjerminnhold og tastetrykk.

Et program som MCI berører flere regelsett og risikokategorier samtidig: informasjonssikkerhet, arbeidsrett, personvern, internkontroll, dataminimering, formålsbegrensning og leverandørstyring dersom tredjeparter er involvert. Det bør ha risikovurdering, DPIA der regelverket krever det, logging av tilgang, klare retention-regler og tekniske sperrer for særlig sensitive applikasjoner.

Det bør også finnes en stoppknapp. Meta valgte å pause programmet etter tilgangsfeilen. Den mekanismen bør bygges inn før hendelsen, ikke improviseres etterpå. Hvis datainnsamling på ansattes arbeidsflate viser feil tilgang, feil samtykke eller uventede bivirkninger, må virksomheten kunne stoppe innsamling, fryse datasett og varsle riktig nivå raskt.

Agent-AI gjør skjermen til datakilde

Den større utviklingen er at skjermen blir en treningskilde. AI-agenter som skal operere i vanlige programmer trenger observasjoner av hva mennesker gjør: hvor de klikker, hva de skriver, hvordan de retter feil, hvilke vinduer de åpner, og hvilke snarveier de bruker. Det kan gjøre systemene langt bedre. Det kan også gjøre intern overvåking mer detaljert enn før.

For norske virksomheter betyr det at AI-strategien må kobles til datastyring. Hvis man vil trene egne agenter på interne arbeidsprosesser, bør datafangsten begrenses til definerte systemer, pseudonymiseres der det er mulig, filtreres for sensitive felt og holdes utenfor kanaler der ansatte har en rimelig forventning om privathet.

Ledere bør også være ærlige om tillit. Ansatte aksepterer ofte logging når den er nødvendig for sikkerhet, drift eller etterlevelse. De reagerer sterkere når loggingen brukes til et diffust AI-formål uten tydelig nytte, tydelige grenser og reell kontroll.

Meta-saken er derfor en nyttig advarsel. Fremtidens AI-agenter trenger mer kontekst fra arbeidslivet. Den konteksten kan ikke hentes som om den var gratis råstoff. Den må behandles som sensitiv styringskapital.

Kilder og medier

Kilde: WIRED, “Meta Pauses Employee-Tracking Program Following Internal Data Leak”, https://www.wired.com/story/meta-pauses-employee-tracking-program-following-internal-security-breach/

Kildekreditering: WIRED.

Thumbnail: OpenAI Image 2 / hogby.ai