OpenAI har bygget en nødbrems som stopper egne AI-modeller på 35 sekunder
Control Room stanser modellenes utdata i OpenAIs forskning senest 35 sekunder etter et stoppvedtak, og stopper alt hvis systemet selv går ned. En overvåkingsmodell kan selv trykke på knappen.


OpenAI har bygget en sentral nødbrems for sine egne AI-modeller. Systemet heter Control Room og kan stoppe utdata fra en modell senest 35 sekunder etter at noen har bestemt at en jobb skal stanses. Det er allerede tatt i bruk i hele selskapets forskningsinfrastruktur, der modeller trenes og testes før de slippes ut.
OpenAI publiserte beskrivelsen mandag 9. november 2026. Den offisielle kontoen @OpenAI la ut kunngjøringen på X kl. 23.01 norsk tid.
Hva Control Room gjør
Ifølge OpenAI holder Control Room oversikt over alle forskningsjobber som henter svar fra en modell. Det gjelder blant annet agentbasert sampling i trening og evaluering av modeller, store testkjøringer og databehandling. Systemet jobber sammen med selskapets overvåking av modeller som oppfører seg på uønskede måter, såkalt misalignment.
Mekanismen er enkel. Hver forskningsjobb må be Control Room om en jobb-ID når den starter, og OpenAI krever at hver jobb som kjører agenter er knyttet til en godkjent sikkerhetsvurdering. Hver gang jobben ber en modell om nye svar, sender den med ID-en. Modellen sjekker først med Control Room om jobben fortsatt har lov til å kjøre. Er jobben stoppet, svarer modellen med et avslag i stedet for innhold.
OpenAI understreker at selve forskningsprosessen kan fortsette å kjøre. Det som stanses, er at modellen produserer mer. Den samme modellen kan samtidig fortsette å betjene andre godkjente jobber.
Overvåkingsmodell kan trykke på knappen
Alle OpenAIs store forsterkningslæringsjobber på de mest avanserte modellene kjører med en egen overvåker, ifølge selskapet. Overvåkeren er en annen modell som følger med på alt modellen under trening gjør, og slår alarm hvis den ser et problem. OpenAI viser til at en nylig DNS-relatert hendelse ble fanget opp av en slik overvåker.
Med Control Room kan overvåkingssystemet selv bestemme å stoppe en jobb, avhengig av hvor alvorlig funnet er. Neste gang jobben ber en hvilken som helst modell om flere svar, blir forespørselen avvist.
Bygget for å stoppe også når noe svikter
De 35 sekundene skyldes et mellomlager som trengs for å tåle trafikkmengden, skriver OpenAI. Selskapet oppgir at det jobber for å få forsinkelsen ned mot null.
OpenAI har valgt å legge stoppmekanismen i laget der modellene faktisk kjøres, ikke i koden til hver enkelt forskningsjobb. Begrunnelsen er at forskernes kode endres ofte og er spredt, mens det bare finnes et fåtall veier for å kjøre modeller. Selskapet oppgir også at det kontinuerlig søker etter oppsett der noen, ved et uhell eller med vilje, kjører modeller uten at Control Room er koblet på.
Systemet er laget for å feile lukket. Går Control Room ned, enten på grunn av en feil eller fordi noen har tuklet med det, blir alle forespørsler til modellene avvist til tjenesten er oppe igjen. Ifølge OpenAI gjelder dette nå alle forskningsjobber på de mest avanserte modellene, og det skal rulles ut til resten av forskningsjobbene i løpet av de neste dagene.
Control Room gjelder forskningsmiljøet. Tjenesten som leverer modellene til kunder er ifølge OpenAI allerede mer sentralisert og har etablerte rutiner for å ta ned modeller raskt. Kunngjøringen sier ikke noe om endringer for API- eller ChatGPT-kunder.
Hva det betyr for ledere
- Spør leverandørene hvordan de stopper en modell. OpenAI sier selv at evnen til å stoppe modeller raskt blir viktigere jo kraftigere de blir. Be AI-leverandørene forklare hvem som kan stanse en jobb, hvor raskt det skjer, og hva som skjer når kontrollsystemet selv faller ut.
- Bygg nødbremsen inn i egne agenter. Kjører dere egne AI-agenter, er OpenAIs valg en nyttig mal: én sentral bryter i laget der modellkallene går, en ID per agentjobb og et oppsett som stopper alt hvis kontrollen svikter, heller enn stoppknapper spredt i hver enkelt applikasjon.
- Mål tiden fra alarm til stans. OpenAI oppgir et konkret tall, 35 sekunder. Det er et nyttig krav å stille også internt: hvor lang tid tar det fra en agent oppfører seg feil til den faktisk er stoppet?
Kilder og medier
- OpenAI: Control Room – a central system to track and stop model workloads, 9. november 2026
- OpenAI på X, 9. november 2026
Illustrasjon: KI-generert med Grok Bot / hogby.ai