Microsoft setter Claude Fable på intern sperreliste

Microsoft har begynt å behandle Claude Fable 5 som en juridisk og sikkerhetsmessig sak, ikke bare som en ny modell i verktøykassen. The Verge skriver at Microsoft begrenser ansattes interne tilgang til modellen mens selskapets juridiske team vurderer Anthropics nye krav til datalagring.

Ifølge The Verge er Fable 5 ikke tilgjengelig i modellvelgeren Microsoft-ansatte bruker i interne versjoner av GitHub Copilot. Andre Claude-modeller skal fortsatt være tilgjengelige internt fordi de opererer under Zero Data Retention-regler. Microsoft har samtidig gjort Fable 5 tilgjengelig for kunder gjennom GitHub Copilot og Foundry.

Det er en skarp forskjell. Kundene får tilgang. Microsofts egne ansatte får en intern bremse. Årsaken er ikke at modellen er svak. Årsaken er at den er sterk nok til at Anthropic har innført nye sikkerhetsmekanismer og en annen datahåndtering.

Anthropic lanserte Claude Fable 5 som den første brede utgaven av sin Mythos-klasse. I lanseringen skriver selskapet at modellen får nye sikkerhetsklassifiserere og at trafikk på Mythos-klasse modeller skal lagres i 30 dager for sikkerhetsformål. Anthropic sier dataene ikke skal brukes til å trene nye Claude-modeller, og at de slettes etter 30 dager i nesten alle tilfeller. Samtidig kan innhold som flagges for brudd på brukspolicy lagres vesentlig lenger.

For virksomheter er dette den viktige delen: modellens sikkerhetstiltak krever mer logging og mer beholdning av data. Det kan være fornuftig fra et misbruksperspektiv. Det kan samtidig være vanskelig å forene med interne krav til konfidensialitet, kundeavtaler, databehandlerregimer og bransjeregulering.

Microsofts reaksjon viser hvor lite moden mange AI-innkjøp fortsatt er. Mange vurderer modellene etter ytelse, pris og integrasjon. Færre har operative prosesser for å håndtere at samme leverandør kan ha ulike datalagringsregler fra modell til modell. Fable 5 gjør dette konkret. Det holder ikke å godkjenne «Anthropic» eller «Claude» én gang. Man må godkjenne den faktiske modellen, det faktiske bruksområdet og den faktiske databehandlingen.

Dette treffer særlig kodeverktøy. Interne Copilot-varianter kan se kildekode, feillogger, arkitektur, kundedata i testmiljøer, konfigurasjon og sikkerhetsdetaljer. Hvis en modell krever at prompter og svar lagres i 30 dager, blir vurderingen annerledes enn for en modell med null lagring. Selv om leverandøren ikke trener på dataene, kan lagring være nok til å utløse krav om risikovurdering, kontraktsendring eller sperre for visse dataklasser.

Det er også en styringsmessig påminnelse. De sterkeste modellene kommer ofte med de tyngste sikkerhetsmekanismene. Når leverandørene skal oppdage misbruk, jailbreaking, cyberforespørsler og policybrudd, trenger de signaler. Signalene er ofte brukerdata, metadata, klassifiseringsscore og eksempler som må undersøkes. Dermed kan en modell være både sikrere mot misbruk og mer krevende for personvern og konfidensialitet.

CIO og CISO bør lese dette som en ny mal for AI-governance. Modellregisteret må inneholde datalagring per modell, ikke bare leverandørnavn. Tilgangsstyring må kunne sperre enkeltmodeller i enkeltverktøy. Juridisk må ha raske løp for å vurdere nye vilkår. Og utviklerplattformen må skille mellom ugradert kodehjelp, sensitiv kildekode, kundedata og sikkerhetsarbeid.

Det er fristende å se dette som en Microsoft-Anthropic-episode. Det er smalere enn det faktisk er. Alle store virksomheter vil få samme problem når modellene blir kraftigere og mer spesialiserte. En modell kan være godkjent for generell tekst. Ikke for kildekode. En annen kan være godkjent for kundeservice. Ikke for helseopplysninger. En tredje kan være godkjent i skyen. Ikke i en intern agent som kan lese filsystem og hemmeligheter.

Den praktiske konsekvensen er at AI-plattformen må styres som en leverandørkjede med raske endringer. Det må finnes en nødstopper for modeller. Det må finnes en oversikt over hvem som bruker hva. Og det må finnes en policy som utviklere faktisk forstår før de limer inn kode, logger eller kundedata i en modell som nettopp fikk nye vilkår.

Claude Fable 5 kan godt være et stort kapabilitetshopp. Microsofts interne sperre viser den andre siden av samme sak: kapabilitet uten datastyring er ikke klar for ukritisk intern bruk. Det er ikke byråkrati. Det er normal risikostyring i en AI-stack som endrer seg raskere enn tradisjonelle innkjøpsprosesser.

Kilder og medier

Primærkilde: The Verge, «Microsoft restricts Claude Fable for employees over data retention concerns», https://www.theverge.com/report/947575/microsoft-claude-fable-5-restricted-internally Bakgrunn: Anthropic, «Claude Fable 5 and Claude Mythos 5», https://www.anthropic.com/news/claude-fable-5-mythos-5 Thumbnail: OpenAI Image 2 / hogby.ai