OpenAI ber om sikkerhetslov for frontier-AI

OpenAI ber USA bygge en føderal sikkerhetslov for de kraftigste AI-modellene. Selskapet publiserte 3. juni en ny offentlig policy-agenda og en egen plan for demokratisk styring av frontier-AI. Forslaget er ikke et produktlanseringsnotat. Det er en ganske tydelig bestilling til amerikanske myndigheter: gjør frivillige AI-løfter om til faste krav, gi staten teknisk innsyn, og bygg en institusjon som kan følge modellene før de løper fra dagens regelverk.

Kjernen er en trepunktsmodell. OpenAI vil at USA skal samle delstatsregler som California SB 53, New York RAISE Act og Illinois SB 315 i ett nasjonalt rammeverk. Selskapet vil styrke Center for AI Standards and Innovation, CAISI, som føderal fagmyndighet for frontier-AI. Og det vil ha en bredere beredskapsplan på tvers av myndigheter for cyber, biologisk risiko, nasjonal sikkerhet, kritisk infrastruktur og samfunnets evne til å tåle feil eller misbruk.

Det mest konkrete for virksomheter er kravlisten. OpenAI peker på evaluering av alvorlig risiko før modellene tas bredt i bruk, inkludert cyber, CBRN-risiko, tap av kontroll, feiljustering og fremdrift mot såkalt recursive self-improvement, der AI brukes til å akselerere utviklingen av ny AI. Selskapet vil også ha åpne sikkerhetsrammeverk, transparensrapporter, uavhengige revisjoner, rapportering av kritiske sikkerhetshendelser, krav til sikring av modellvekter og vern for varslere.

Det er verdt å merke seg hvem som ber om dette. OpenAI er ikke en ekstern regulator som vil bremse bransjen utenfra. Det er en av aktørene som har mest å vinne på fortsatt høy fart. Når selskapet likevel ber om statlig kapasitet, lovkrav og uavhengig vurdering, sier det noe om hvor raskt governance-spørsmålet har endret seg. Frontier-AI er ikke lenger bare modellkort, red-team-rapporter og frivillige avtaler. Det nærmer seg samme type kontrollregime som finans, helse, forsvar og kritisk infrastruktur kjenner godt.

Forslaget legger også inn en skarp avgrensning av CAISI-rollen. OpenAI ber ikke om at CAISI skal godkjenne eller stoppe lanseringer. Institusjonen skal evaluere, gi tekniske vurderinger og anbefale tiltak. Utvikleren skal fortsatt ta lanseringsbeslutningen, men må offentlig forklare funnene, svare på dem og stå ansvarlig gjennom rapportering og revisjon. Det er en modell som gir myndighetene mer innsyn uten å gjøre staten til produktstyre for hver modellversjon.

Samtidig vil OpenAI at føderale etater skal nekte bruk av unevaluerte frontier-systemer på statlige maskiner og i sensitive offentlige anskaffelser. Det punktet er viktig også utenfor USA. Offentlig sektor er ofte den første store kunden som setter krav andre følger etter. Når amerikanske myndigheter begynner å skille mellom evaluerte og unevaluerte frontier-modeller, vil innkjøpsmaler, leverandørspørsmål og kontraktskrav raskt smitte over på globale kunder. Norske virksomheter som kjøper AI gjennom Microsoft, AWS, Google, OpenAI eller systemintegratorer bør regne med at dokumentasjon på modelltesting og hendelsesrapportering blir en del av due diligence.

OpenAI gjør også compute til sikkerhetspolitikk. Planen ber myndighetene beskytte USAs forsprang på avanserte brikker og datasentre gjennom eksportkontroll, tetting av smutthull og investeringer i energi og infrastruktur. Det er samme logikk EU nå bruker når sky, AI-kapasitet og chips flyttes inn i teknologisuverenitet. For norske styrer betyr det at AI-risiko ikke kan behandles som et rent applikasjonsvalg. Kapasitet, jurisdiksjon, leverandørbinding, modelltilgang og kriseberedskap henger sammen.

For CIO og CISO er den praktiske konsekvensen klar. Spørsmålet er ikke lenger bare hvilken modell som scorer best eller er billigst per token. Spørsmålet er om leverandøren kan vise hvordan modellen er testet, hvilke sikkerhetskontroller som gjelder, hvordan hendelser varsles, hvem som får tilgang til modellvekter og hvordan interne AI-agenter overvåkes. Dette treffer spesielt virksomheter som bygger agenter med tilgang til kode, identiteter, økonomisystemer, kundedata eller operasjonelle prosesser.

For styret er dette en modning av ansvarslinjen. AI-governance blir mindre et innovasjonsvedlegg og mer en del av risikostyring, internkontroll og leverandørstyring. Det er også et varsel om at markedet kan få et tydelig skille mellom frontier-modeller med tung dokumentasjon og modeller uten tilsvarende evalueringsspor. Billigste eller raskeste modell kan bli dyr hvis den ikke tåler revisjon, regulatoriske spørsmål eller kundekrav.

OpenAI kaller dette demokratisk styring av frontier-AI. Den nøkterne lesningen er at AI-bransjen forbereder seg på et mer regulert marked. De store modellene blir infrastruktur. Infrastruktur får krav. Og når kravene først kommer i USA og EU, havner de fort i norske kontrakter.

Kilder og medier

• OpenAI: A blueprint for democratic governance of frontier AI, https://openai.com/index/frontier-safety-blueprint/
• OpenAI: Democratic Governance of Frontier AI: A blueprint for a federal framework, PDF, https://cdn.openai.com/pdf/25752ecb-0e5c-47f9-b9e4-c0f4d76f8d3d/a-blueprint-for-a-federal-framework.pdf
• OpenAI: OpenAI public policy agenda, https://openai.com/index/public-policy-agenda/
• Thumbnail: OpenAI Image 2 / hogby.ai