Anthropic-sjefen vil ha hardere regler for frontier-AI

Dario Amodei ber myndigheter stramme inn reguleringen av de kraftigste AI-modellene. Anthropic-sjefen skriver i et nytt policy-essay at AI-utviklingen går raskere enn lovgivning og tradisjonell forvaltning klarer å håndtere. Hans hovedpoeng er ikke at AI skal bremses flatt. Det er at de største modellene må behandles mer som kritisk teknologi enn som vanlig programvare.

Forslaget er konkret nok til at norske styrer bør lese det som mer enn Silicon Valley-retorikk. Amodei vil at modeller over en viss beregningsgrense skal testes av kvalifiserte tredjeparter før de tas i bruk. Testene skal blant annet dekke cybersikkerhet, biologisk våpenrisiko, tap av kontroll over AI-systemer og automatisert forskning og utvikling. Hvis risikoen er for høy, mener han at myndigheter må kunne stoppe eller utsette utrulling.

Det er et tydelig skifte i tone. Mye av AI-reguleringen de siste årene har handlet om transparens, rapportering og frivillige sikkerhetsløfter. Amodei skriver at det nå er tid for mer bindende regulering. Han sammenligner med luftfart, biler og legemidler: teknologier som er nødvendige, men som blir farlige når testing, drift og ansvar ikke er stramt nok regulert.

For norske CIO-er og CISO-er treffer dette rett inn i leverandørstyringen. Hvis USA innfører strengere krav til frontier-modeller, vil norske virksomheter merke det gjennom kontrakter, modelltilgang, datasikkerhetskrav og dokumentasjon. Det kan bli vanskeligere å kjøpe AI som en løs API uten å vite hvordan modellen er testet, hvilke hendelser leverandøren rapporterer, hvordan modellvekter beskyttes, og hvilke bruksområder leverandøren selv anser som for risikable.

Cybersikkerhet er den mest umiddelbare delen av argumentet. Amodei viser til at frontier-modeller allerede kan gi reell hjelp i sårbarhetsanalyse og exploit-utvikling. Det betyr ikke at alle angripere plutselig får superkrefter. Det betyr at patch-vinduer, red-teaming, tilgangsstyring og overvåking må tilpasses en verden der angripere kan automatisere mer av arbeidet. For virksomheter med mye egenutviklet kode, skyinfrastruktur eller kritiske integrasjoner er dette en styringssak, ikke bare en teknisk sak.

Essayet handler også om økonomi og arbeidsliv. Amodei beskriver AI som en mulig generell erstatning for kognitivt arbeid, ikke bare som et nytt produktivitetsverktøy. Han argumenterer for bedre måling av arbeidsmarkedseffekter, insentiver for sysselsetting og mulig inntektsstøtte hvis fortrengningen blir stor og varig. Det er ikke et ferdig politisk program, men det er et signal fra en av de mest sentrale AI-lederne om at virksomheter bør planlegge for mer enn effektivisering i enkeltprosesser.

For styrene er den praktiske læringen enkel: AI-risiko må opp på samme nivå som cyber, regulatorisk risiko og kritisk leverandøravhengighet. Det holder ikke å ha en pilotoversikt. Man trenger en oversikt over hvilke frontier-modeller som brukes, hvilke data de får, hvilke beslutninger de påvirker, hvilke sikkerhetstester som er gjort, og hvem som eier risikoen når en modell får agentrettigheter i interne systemer.

Det er også en geopolitisk dimensjon. Amodei skriver at AI kan bli en dominerende kilde til militær og økonomisk makt. Han tar til orde for en demokratisk AI-koalisjon som deler kapasitet internt, beskytter forsyningskjeder og nekter kritisk AI-infrastruktur til autoritære motparter. For norske virksomheter betyr dette at AI-strategi ikke kan løsrives fra chip-tilgang, skyleverandører, eksportkontroll og sikkerhetspolitikk.

Amodei har egeninteresse i debatten. Anthropic konkurrerer om å bli sett som den seriøse og sikkerhetsorienterte modellen i markedet. Likevel er innlegget viktig fordi det peker på hvor reguleringen kan gå. Når en frontier-leverandør selv ber om tredjepartstesting, deployeringsstopp og strengere sikkerhetskrav, bør innkjøpere bruke det som kravliste tilbake mot alle modellleverandører.

Den norske konsekvensen er derfor ikke å vente på en amerikansk lov. Den er å begynne å stille spørsmålene nå: Har leverandøren dokumenterte evalueringsresultater for misbruk? Hvordan håndteres sikkerhetshendelser? Hvilke bruksområder er eksplisitt forbudt? Kan kunden få revisjonsgrunnlag? Og hva skjer hvis en modell trekkes tilbake, begrenses eller klassifiseres som for risikabel til en bestemt type bruk?

Det er i slike spørsmål AI-governance blir konkret. Ikke som en policy i en mappe, men som krav i anskaffelser, arkitektur, sikkerhet og styrets risikorapportering.

Kilder og medier

Primærkilde: Dario Amodei, "Policy on the AI Exponential", publisert juni 2026. Source: https://darioamodei.com/post/policy-on-the-ai-exponential Kildekreditering: Dario Amodei. Thumbnail: OpenAI Image 2 / hogby.ai