Anthropic advarer investorene: KI-en kan snart akselerere sin egen utvikling

Anthropic skriver nå i sine egne børsdokumenter at selskapet kan være svært nær et punkt der KI-en akselererer sin egen utvikling. I den oppdaterte registreringssøknaden til det amerikanske finanstilsynet SEC skriver selskapet at interne anslag for kommende modeller tyder på at det «snart» kan nå terskelen i sin egen sikkerhetspolicy for «dramatisk akselerert fremgang som skyldes KI».

Dokumentet, et såkalt S-1/A, ble registrert hos SEC mandag 2. november 2026 kl. 15.24 norsk tid. Det er en oppdatering av søknaden om børsnotering som Anthropic leverte i oktober. Anthropic understreker samtidig at ingen av dagens modeller er vurdert til å ha passert terskelen.

Hva Anthropic faktisk skriver

Formuleringen står i avsnittet om risikofaktorer, der børsaktuelle selskaper må beskrive hva som kan gå galt. Der skriver Anthropic at selskapets økende bruk av KI til å drive egen forskning og utvikling kan få modellenes evner til å vokse raskere enn selskapet klarer å utvikle, teste og innføre tilsvarende sikkerhetstiltak.

Selskapet innrømmer også at det har vanskelig for å måle tempoet. Mye av dokumentasjonen bygger ifølge søknaden på etterslepende indikatorer. Anthropic skriver at selskapet tidligere ikke har oppdaget en betydelig akselerasjon i egen utvikling før etter at den hadde skjedd, og at det kan skje igjen.

Så kommer setningen som har vakt oppsikt: Anthropics interne anslag og forventninger til framtidige modeller, ikke dagens, tyder på at selskapet snart kan nå definisjonen i sin Responsible Scaling Policy. Anthropic skriver at det fortsatt vurderer de underliggende dataene, og at det vil publisere flere rapporter om hva det betyr å nå terskelen for KI-drevet forskning og utvikling.

KI som bygger KI

Fenomenet kalles gjerne rekursiv selvforbedring: at KI-systemer blir så gode til å forbedre seg selv at utviklingen går mye raskere enn før. Anthropic bruker selv uttrykket i søknaden og skriver at det å bruke KI til å bygge mer kapabel KI kan innebære en betydelig sikkerhetsrisiko, særlig hvis tempoet øker kraftig.

Selskapet beskriver dette både som en mulighet og en fare. Anthropic skriver at det tror investeringene i sikkerhetsteknikker vil gjøre det mulig å få langt mer ut av Claude i egen modellutvikling enn i dag. Samtidig skriver selskapet at det ikke regner med å trygt kunne la Claude utforme og bygge nye generasjoner av frontmodeller helt på egen hånd, uten meningsfull menneskelig kontroll og forståelse.

Anthropic opplyser derfor at selskapet vurderer endringer i sin Responsible Scaling Policy for å holde mennesker i kontroll over utviklingen av frontmodeller. Hvilke endringer det gjelder, eller når de kommer, står ikke i søknaden.

Børsdokument, ikke forskningsrapport

Et S-1-dokument skal gi investorer et fullstendig bilde av risikoen før de kjøper aksjer. Selskaper har sterk grunn til å ta med alt som kan slå feil ut, og formuleringene er skrevet for å tåle juridisk ettersyn. Det gjør utsagnet tyngre enn et blogginnlegg, men det er ikke et bevis for at et gjennombrudd er nært.

Søknaden oppgir ikke hvilke modeller anslagene gjelder, hvilke målinger de bygger på eller hvor nær terskelen selskapet mener det er. Den sier heller ikke hva Anthropic konkret vil gjøre dersom terskelen nås, utover at flere rapporter skal komme og at sikkerhetspolicyen kan bli endret.

Dette betyr det for norske ledere

• Tempoet kan øke uten forvarsel. En av de største leverandørene av KI-modeller skriver selv at den har oppdaget akselerasjon først i ettertid. Planer for KI-bruk bør derfor ha kortere revisjonssykluser enn vanlige IT-strategier.
• Leverandørens sikkerhetspolicy er en del av risikobildet. Virksomheter som bygger på Claude bør følge med på endringene i Anthropics Responsible Scaling Policy. Endringer der kan påvirke hvilke modeller som slippes, og når.
• Les børsdokumentene. Når KI-selskapene går på børs, må de skrive ned risikoer de ellers bare antyder. Det er nyttig lesning for alle som skal velge leverandør.

Kilder og medier

• Anthropic PBC: Form S-1/A, registreringssøknad til SEC, registrert 2. november 2026 kl. 15.24 norsk tid
• SEC EDGAR: Filing index for Anthropic PBC S-1/A, 2. november 2026

Illustrasjon: KI-generert med Grok Bot / hogby.ai