Anthropic løfter modellrisiko fra systemkort til styringssak

Anthropic har publisert sin andre Risk Report under Responsible Scaling Policy. Det er ikke en vanlig modellnyhet i betydningen «ny modell, ny leaderboard, ny demo». Det er mer interessant for ledere: rapporten viser hvordan en frontier-lab nå vurderer risiko på tvers av hele modellporteføljen, inkludert modeller som brukes internt og modeller som ikke er offentlig lansert.

Kjernen er enkel: systemkortene følger enkeltmodeller. Risk Report ser på virksomheten som helhet. Anthropic skriver at rapporten vurderer katastrofal risiko fra modellene og risikoreduserende tiltakene samlet, ikke bare modellkapabiliteter isolert. Det betyr sikkerhetskontroller, deploy-grep, overvåking, interne agentbruksmønstre og styringsprosesser blir en del av selve modellrisikoen. For CIO og CISO er det akkurat der skoen begynner å trykke.

Det mest konkrete funnet er at Anthropic omtaler Claude Mythos 5 og en ikke-lansert intern «Model 2» som sentrale i vurderingen. Mythos 5 brukes tungt internt til koding, datagenerering og agentiske arbeidsflyter. Modellen er også tilgjengelig for enkelte kunder via Project Glasswing og bredere som Claude Fable 5 med ekstra sikkerhetstiltak. Model 2 beskrives som noe mer kapabel enn Mythos 5, men Anthropic sier at den ikke er planlagt ekstern lansert og at de ikke har kjørt hele den vanlige predeployment-pakken. Det er en viktig detalj: risikostyringen dekker også modeller før produktlansering.

Rapporten hever også tonen rundt misalignment i høyrisiko-miljøer. Anthropic vurderer risikoen som «low», opp fra tidligere «very low». Begrunnelsen er ikke at selskapet sier modellene har krysset en ny farlig terskel, men at usikkerheten har økt etter nylige hendelser og evalueringer knyttet til modelladferd i cybersikkerhet. Oversatt til styrerom: signalet er ikke panikk. Signalet er at risikonivået beveger seg når bruksområdet, agenttilgangen og evalueringsgrunnlaget endrer seg.

På automatisert forskning og utvikling sier Anthropic at modellene ikke møter Responsible Scaling Policy-kriteriene for den aktuelle trusselmodellen. Likevel er vurderingen mindre trygg enn før. Rapporten peker på at konkrete task-baserte evalueringer begynner å mettes, altså at testene ikke lenger fanger opp kapabilitetsøkninger godt nok. Samtidig ser Anthropic tidlige tegn på akselerasjon: intern AI-assistert R&D går betydelig raskere enn uten AI, selv om selskapet ikke mener effekten er en dobling av fremdriften.

Det er kanskje den viktigste lederimplikasjonen. Når evalene mettes, kan ikke innkjøp, sikkerhet og governance lene seg på én tabell i et systemkort. Organisasjoner trenger egne kontroller for hva modellene faktisk får lov til å gjøre: hvilke repoer de kan skrive i, hvilke data de kan lese, hvilke verktøy de kan kalle, hvem som godkjenner endringer, og hvordan avvik oppdages. En modell som er «trygg nok» i chat kan være langt mer risikabel når den får terminal, kodebase, nettleser, saksflyt og vedvarende agentkjøring.

Rapporten dekker også kjemisk og biologisk risiko. Anthropic sier at modellene behandles som sterke nok til å kunne gi betydelig hjelp til enkelte ikke-novel chemical/biological weapon-scenarioer, og at risikoen vurderes som lav, men høyere enn tidligere estimat etter at en tilgangskontrollglipp ble funnet og rettet. For novel chemical/biological weapons vurderes risikoen som lav, men med betydelig usikkerhet. Dette er ikke detaljer som bør brukes operativt av lesere; poenget for virksomheter er governance: sensitiv domeneekspertise, unntak, blocking classifiers og brukersegmentering må dokumenteres og testes, ikke bare beskrives i policy.

For norske virksomheter er nyheten derfor større enn én Anthropic-rapport. Den setter en mal for hvordan modellrisiko bør vurderes når AI flytter fra assistent til agent. Risikoen ligger ikke bare i modellen, men i kombinasjonen av modell, verktøy, tilgang, bruksmønster, intern kontroll og leverandørens egne evalueringsgrenser.

Det praktiske spørsmålet for CIO/CISO blir: Kan vi forklare hvilke AI-systemer som kan handle på vegne av selskapet, hvilke sikkerhetsgrenser de har, hvilke evaler vi stoler på, hvilke evaler som er mettet, og hvem som eier aksepten når risikoen øker fra «very low» til «low»? Hvis svaret er nei, har virksomheten ikke en modellstrategi. Den har en samling abonnementer med varierende grad av håp.

Anthropic gjør også en nyttig distinksjon mellom marginal risiko fra egne systemer og absolutt risiko dersom hele industrien hadde tilsvarende modeller og praksis. Det er et godt språk for styrer og regulatorer. Leverandørvalg handler ikke bare om hvem som er billigst eller best på benchmark. Det handler om hvilken risikopraksis virksomheten importerer.

Konklusjonen: Risk Report August 2026 er en styringsnyhet forkledd som sikkerhetsrapport. Den viser at frontiermodellene nå er tett koblet til intern produktivitet, kodeproduksjon, agentdrift og kontrollmiljøer. For ledere er takeawayen brutal og nyttig: modellkort er ikke nok. AI-governance må følge systemet modellen settes inn i.

Kilder og medier

• Primærkilde: Anthropic Risk Report: August 2026, https://www-cdn.anthropic.com/f61d49fa5596956a5dec75fea0e973bf6a6a8378/Redacted%20Risk%20Report%20August%202026%20.pdf
• Bakgrunn: Anthropic Responsible Scaling Policy, https://www.anthropic.com/responsible-scaling-policy
• Thumbnail: OpenAI Image 2 / hogby.ai