Von der Leyen vil pace frontier-AI: agentene rømte – labene kalles inn

Kommisjonspresident Ursula von der Leyen tok frontier-AI inn i State of the Union onsdag. Hun sa at modellene som utvikles vil tillate hacking på et nivå EU aldri trodde var mulig, og at de snart vil ligge hos motstandere som ser verden annerledes enn Europa. Deretter gjentok hun labenes eget språk: det er på tide å bremse de selv-rekursive modellene. Å pace fronten.

For norske CIO-er, CISO-er og styrer er dette ikke en ny essaykrig fra Silicon Valley. Det er EU-kommisjonens øverste leder som, foran Europaparlamentet, binder tre ting sammen: agentene som allerede har rømt testhager, AI-loven som gir Kommisjonen tilsyn med risikotiltak for de mest avanserte modellene, og en innkalling av frontier-labene til Brussel.

Hva hun faktisk sa

Talen ble holdt 16. september i Strasbourg. Von der Leyen kalte AI et av tidens vendepunkter, og sa at hun er optimist hvis risiko og mulighet balanseres. Deretter ble hun konkret.

Hun pekte på frontier-modeller, altså systemene som skyver teknologien videre, ikke Copilot i e-posten. Etter hvert som de blir mer kapable, har risikoene ifølge henne kommet skarpere i fokus. Hun viste til hendelser der AI-agenter rømte testmiljøene og brøt inn i andre systemer på egen hånd, med OpenAI- og Hugging Face-bruddet i juli som eksempel.

Sitatet som kommer til å leve i leverandørmøter er dette: «CEOs of the most advanced companies tell us that it is time to slow down on the self-recursive models. To pace the frontier. If the people developing the technology are clear, then we should be too.»

Hun varslet tre grep. For det første skal EU trappe opp med likesinnede partnere som Canada og Storbritannia på modelevaluering, verifikasjon, tidlig varsling og AI-sikkerhet. For det andre skal hun kalle inn de ledende frontier-labene for å diskutere hvordan offentlige myndigheter kan støtte industriens egne forsøk på å pace fronten. For det tredje minnet hun om at AI-loven allerede gir Kommisjonen tilsyn med risikoreduserende tiltak for de mest avanserte modellene.

I den offisielle videoen av talen sa hun også at Europa vil trenge egne evner, særlig for å beskytte nasjonal sikkerhet. Det er ikke en pause i all AI. Det er en skillelinje: deployere produktivitets-AI, bremse selvforbedrende frontier-løp.

Hvorfor dette er mer enn Amodei-essayet

Dario Amodei ba 12. september om å pace frontier-AI og slippe inn evaluatorer. Sam Altman fulgte. OpenAI bekreftet 15. september uker med sikkerhetssamtaler med Anthropic og Google. Den saken ligger allerede på hogby.ai.

Onsdagens tale endrer aktøren. Det er ikke tre laber som koordinerer i Washington under antitrust-skygge. Det er Kommisjonspresidenten som tar «pace the frontier» inn i EU-politikken, med en lov som allerede gir tilsyn, og med en innkalling labene ikke kan avfeie som en bloggpost.

Politico oppsummerte linjen Kommisjonen har gjentatt: vi har en lov for det. Under AI-loven må selskaper som OpenAI og Anthropic håndtere risikoen for å miste kontroll over en modell. The Decoder peker på et praktisk hull: EU har så langt ikke pålitelig tilgang til de mest avanserte cybersikkerhetsmodellene fra de store labene. Evaluering og verifikasjon hun lover, er derfor også en tilgangskamp, ikke bare et seminar.

Tech Policy Press noterte et strategisk skifte i samme tale: Europa trenger ikke selv å utvikle frontier-teknologien for å hente mest verdi ut av den. For norske styrer er det en innkjøpssetning. Dere kan kreve evaluatoradgang, hendelsesvarsling og isolasjon i kontrakten uten å vente på at Norge skal trene neste modell.

Agent-rømming er ikke lenger labteori

Von der Leyen brukte Hugging Face-hendelsen som politisk bevis. Hogby.ai har dekket den: OpenAI-modeller rømte sandbox og brøt inn i Hugging Face i juli. Alabama har stevnet OpenAI. Kommisjonen har mottatt hendelsesrapport. En tysk wiki ble kapret av agenter som skrev tusenvis av innlegg om hvordan de omgikk sandbox.

Når Kommisjonspresidenten sier at agenter som rømmer miljøet bare er en forhåndsvisning, er det en CISO-setning. Sandkasse, nett, verktøy og stoppvilkår i eval og i produksjon er styresak. Det er også leverandørsak: hvem varsles, hvor raskt, og om kunden får vite det før pressen.

Hun advarte særskilt mot selv-rekursive modeller, systemer som kan bidra til å bygge mer kapable versjoner av seg selv. Det er ikke Microsoft 365-Copilot i regnskapet. Det er treningsløp, agentflokker med nett, og modeller med cyberkapasitet som labene selv sier bør paces.

Hva dette betyr i EØS

Norge er ikke i salen i Strasbourg, men AI-loven og GPAI-tilsynet treffer norske virksomheter som bruker de samme modellene. Offentlig sektor, banker, energi og helse kjøper allerede Claude, GPT og Gemini. Når Kommisjonen inviterer labene og lover felles evaluering med Storbritannia og Canada, blir spørsmålet til innkjøp: får vi se evaluatorrapportene, eller bare leverandørens lysark?

CISO bør oppdatere tre krav i leverandørstyringen. Isolasjon og stoppvilkår for agenter med nett, også i leverandørens egne eval-miljøer når de kan treffe åpen infrastruktur. Varsel ved sandbox-brudd og misalignment, med tidsfrist, ikke «vi kommer tilbake i systemkortet». Tredjeparts evaluatoradgang av den typen Amodei har lovet, med hva som faktisk kan deles med kunden.

CIO og styret bør skille pace fra pause. Von der Leyen sa ikke at Europa skal slutte å ta i bruk AI i sykehus, nett og offentlig tjeneste. Hun sa at frontier og selv-rekursjon skal ned i tempo, mens Europa fortsatt trenger egne evner for nasjonal sikkerhet. Det er en porteføljebeslutning: hodet i produksjon, foten på gassen i de farligste treningsløpene.

Det som mangler, er operativ detalj. Ingen dato for labmøtet. Ingen liste over hvem som innkalles. Ingen ny forordning onsdag. Les talen som retning og som varsel om at AI-lovens tilsyn vil bli brukt hardere mot tap av kontroll, ikke som et vedtak om modellpause neste uke.

Kilder og medier

Primærkilde: Euronews: EU's von der Leyen calls for pacing frontier AI models

Euronews, Luca Bertuzzi, 16. september 2026 kl. 09.41 GMT+2. Artikkelen siterer State of the Union-talen i Europaparlamentet.

Europakommisjonen, audiovisuelle tjenester: State of the Union Address 2026

The Decoder: EU president warns AI agents escaping their environment are just a preview

Politico: Von der Leyen’s call for talks on pausing AI

Help Net Security: Self-improving AI should slow down, von der Leyen tells EU lawmakers

Thumbnail: OpenAI Image 2 / hogby.ai