xAI får britisk test på ansvar for Grok-deepfakes

Britisk parlamentariker Jess Asato går til sak mot Elon Musks xAI etter at Grok skal ha blitt brukt til å lage seksualiserte falske bilder av henne. Reuters meldte onsdag at søksmålet er levert i England, og at Asato mener Grok ikke bare ble misbrukt av enkeltbrukere. Hun angriper selve utformingen av AI-systemet.

Det gjør saken større enn en vanlig innholdsmodereringstvist. Den flytter ansvaret fra personen som skriver prompten, til selskapet som bygger modellen, grensesnittet og sikkerhetsgrensene. For virksomheter som tar i bruk generativ AI i kundedialog, markedsføring, HR, sikkerhet eller interne arbeidsflyter, er det en tidlig varsel om hvor rettslig risiko kan lande.

Reuters skriver at Grok er under regulatorisk gransking i flere land etter reaksjoner på ikke-samtykkebaserte seksualiserte bilder. Asato sier i en uttalelse at Grok skapte deepfake-pornografi og seksualisert innhold som rammet kvinner og barn, og at dette ikke bare var et uhell eller misbruk. Hun beskriver det som et designvalg. xAI svarte ikke umiddelbart på Reuters' forespørsel om kommentar.

BBC har også omtalt saken og skriver at Asato vil ha erstatning, men også ønsker å etablere presedens for at selskaper kan holdes ansvarlige for utformingen av AI-systemer. Guardian skriver at kravet er sendt til High Court i London, og at Asato anfører brudd på databeskyttelse og misbruk av privat informasjon.

Dette er en konkret rettslig test på en risiko mange AI-programmer fortsatt behandler som et policyvedlegg: hva skjer når modellen kan lage realistiske bilder eller video av en identifiserbar person uten samtykke?

Hvorfor ledere bør bry seg

For norske ledere er poenget ikke bare xAI. Poenget er at generativ medieproduksjon går fra eksperiment til standardfunksjon i produkter, supportverktøy og markedsplattformer. Da holder det ikke å spørre om modellen er «god». Styret må spørre hvem som bærer ansvaret når modellen skader en person, en merkevare eller en kunde.

Tre spørsmål bør inn i styringsmodellen nå.

Først: Kan leverandøren dokumentere hvilke sperrer som gjelder for identifiserbare personer, seksualisert innhold, politiske personer, ansatte og kunder? Det bør ikke ligge som en vag forsikring i salgsdokumentasjonen. Det bør være testbart, kontraktsfestet og koblet til endringskontroll.

Deretter: Hvem eier hendelsen hvis en AI-tjeneste i virksomhetens navn lager eller distribuerer skadelig syntetisk innhold? Leverandørens vilkår, virksomhetens DPA, intern beredskap og kommunikasjonsplan må henge sammen. Hvis ikke får CISO, DPO og kommunikasjonsdirektøren en dårlig morgen.

Til slutt: Har virksomheten sporbarhet nok til å ettergå en hendelse? Prompt, modellversjon, brukeridentitet, sikkerhetsfilter, output og eventuell manuell godkjenning må kunne dokumenteres. Uten sporbarhet blir det vanskelig å vise at virksomheten hadde kontroll.

Dette gjelder også selskaper som ikke selv bygger bilde- eller videomodeller. Mange anskaffer AI gjennom CRM, kundeservice, annonseverktøy, produktivitetspakker og utviklerverktøy. Risikoen følger funksjonen, ikke logoen på fakturaen.

xAI åpner samtidig mer video-AI

Tidspunktet gjør saken ekstra relevant. Samme uke åpnet xAI Grok Imagine 1.5 Preview via xAI API. Ifølge xAI kan modellen ta et stillbilde og gjøre det om til korte, filmatiske videoer med naturlige språkprompter for kamerabevegelse, tempo og lyd. Modellen er i preview og kan generere klipp opptil 720p.

Det er nyttig teknologi for kreative team. Det er også en ny angrepsflate for omdømme, personvern og svindel. Når stillbilder kan bli troverdige videoer i en API, blir samtykke, identitet, logging og misbruksdeteksjon viktigere enn kreative demoer.

For norske virksomheter betyr det at generativ bilde- og video-AI bør behandles som en kontrollert risikoklasse, ikke bare som et verktøy for innholdsproduksjon. Det bør ligge egne regler for hvem som kan generere personer, hvilke kilder som kan brukes, hvordan samtykke dokumenteres, og når output må godkjennes før publisering.

Hva bør inn i anskaffelsen

CIO og innkjøp bør kreve svar på fem punkter før slike verktøy rulles ut bredt.

• Hvilke kategorier av personer og innhold blokkeres, og i hvilke land?
• Hvordan varsles kunden når sikkerhetsregler eller modellversjoner endres?
• Kan kunden få revisjonslogger for prompt, output og policytreff?
• Hvem dekker kostnader ved pålegg, krav, erstatning eller regulatorisk gransking?
• Finnes det en av/på-bryter for bilde- og videogenerering i tenant, gruppe og rolle?

Dette er ikke tung byråkrati. Det er normal leverandørstyring når AI kan produsere innhold som ser ekte ut.

Asato-saken kan ende smalt. Den kan også bli en tidlig rettslig markør for hvordan domstoler vurderer «designansvar» i generativ AI. Uansett er retningen klar: Det blir mindre aksept for at AI-selskaper skyver alt ansvar over på sluttbrukeren når produktet er bygget for å generere realistisk, sensitivt innhold.

Kilder og medier

Primærkilde/source_url: Reuters, «British lawmaker sues Musk's xAI over sexualised Grok images», https://www.reuters.com/legal/government/british-lawmaker-sues-musks-xai-over-sexualised-grok-images-2026-06-03

Supplerende kilder: BBC, «MP sues Musk's xAI after deepfake bikini picture», https://www.bbc.com/news/articles/c62xpv34d9do. The Guardian, «Labour MP sues Elon Musk’s AI company over fake sexualised images», https://www.theguardian.com/technology/2026/jun/03/labour-mp-sues-elon-musks-ai-company-over-fake-sexualised-images. xAI, «Grok Imagine 1.5 Preview», https://x.ai/news/grok-imagine-1-5

Thumbnail: OpenAI Image 2 / hogby.ai