Cloudflare gjør agentdrift til plattformjobb

Cloudflare gjør agentdrift til plattformjobb

Cloudflare bruker lanseringen av Flue og nye Agents SDK-primitiver til å peke på et skifte i markedet: AI-agenter er på vei ut av terminalen og inn i produksjon. Det er ikke lenger nok å velge modell. Virksomheter må velge runtime.

I innlegget beskriver Cloudflare en tredelt stack for produksjonsklare agenter. Øverst ligger rammeverket, som Flue, med prosjektstruktur, integrasjoner, CLI og utvikleropplevelse. I midten ligger agent-harnesset, for eksempel Pi eller Project Think, som styrer verktøybruk, kontekst og arbeidsflyt. Nederst ligger plattformen, altså compute, tilstand og lagring. Cloudflare vil eie mer av det nederste laget.

Det er en viktig nyanse. Mange AI-prosjekter stopper i diskusjonen om hvilken modell som scorer høyest. I produksjon er problemet ofte mer jordnært: hva skjer når agenten krasjer midt i en oppgave, venter på et API, mister strømmen av tokens, må hente inn menneskelig godkjenning eller kjører kode som ikke bør få se hemmeligheter?

Cloudflare svarer med varig kjøring, isolert kodekjøring, et varig virtuelt filsystem og dynamiske arbeidsflyter. Selskapet sier at Flue 1.0 beta bygger på Pi-harnesset og kan deployes på Cloudflare slik at hver agent kjører i sin egen Durable Object, med isolert lagring og compute. Agenten kan dermed få sin egen tilstand uten at teamet må bygge egne servere, sticky sessions eller køsystemer.

Den mest konkrete delen er "durable execution". Cloudflare beskriver hvordan en agentturn ikke er en vanlig HTTP-forespørsel. Den kan streame tokens, kalle verktøy, vente på svar, delegere til underagenter og fortsette i minutter eller timer. Hvis prosessen dør underveis, er en vanlig minnebasert løsning ødelagt. Cloudflares fibers-mekanisme skal skrive sjekkpunkter til Durable Objects-lagring, slik at en ny instans kan fortsette fra siste kjente steg.

For sikkerhet er kodekjøring like sentralt. Cloudflare peker på Code Mode og Dynamic Workers for å kjøre AI-generert kode i isolerte Worker-miljøer med bare de bindingene utvikleren gir tilgang til. Selskapet oppgir at isolater starter på under 10 millisekunder, og viser til en kostnad på 0,002 dollar per load. Poenget er ikke at alle skal regne på denne prisen i budsjettet. Poenget er at sandkasse for agentkode ikke trenger å bety full container for hvert lite verktøykall.

Cloudflare går også etter filsystemet. Mange kode- og analyseagenter trenger å lese filer, skrive patcher, søke i kildekode og se diffs. I stedet for å starte en full Linux-container for alt, tilbyr Cloudflare Shell et virtuelt filsystem i Durable Object, støttet av SQLite. For teksttunge oppgaver kan dette gi lavere friksjon og lavere kostnad. Når agenten faktisk trenger npm install, git eller kompilatorer, peker Cloudflare fortsatt på containere.

Dette er selvsagt også produktmarkedsføring. Cloudflare vil at flere agentrammeverk skal bygge på deres plattform. Likevel er signalet reelt: agentdrift blir mer lik vanlig distribuerte systemer enn vanlig chatbot-utvikling. Virksomheter som skal kjøpe eller bygge agenter må derfor spørre om mer enn modellnavn og demo-video.

For norske CIO-er og CTO-er er vurderingslisten ganske konkret:

• hvordan gjenopptas en agentoppgave etter krasj eller timeout?
• hvor lagres kortsiktig og langsiktig tilstand?
• kan AI-generert kode kjøre uten tilgang til nøkler og interne systemer?
• finnes det kostgrenser per agent, per verktøy og per team?
• kan handlinger spores på tvers av modell, verktøy og godkjenning?
• hvor lett er det å flytte agenten hvis plattformen blir for dyr eller for låst?

For CISO er det særlig én lærdom: agentplattformen blir en ny kontrollflate. Hvis en agent kan lese filer, kalle API-er, skrive kode og vente på eksterne hendelser, må den inn i tilgangsstyring, logging, data governance og beredskap. "Det er bare en LLM" er ikke en dekkende risikovurdering når modellen får runtime og verktøy.

Cloudflare setter med Flue og Agents SDK ord på en retning flere leverandører følger. Agenten blir ikke ett produkt. Den blir et lag med rammeverk, harness, runtime, sandbox, lagring, observability og kostkontroll. Den som eier dette laget, får mye makt over hvordan virksomhetens automatisering faktisk fungerer.

Det er der strategien bør ligge. Ikke i å kåre månedens beste modell. Men i å avgjøre hvilken agentplattform virksomheten tør å la jobbe med reelle systemer.

Kilder og medier

Primærkilde: Cloudflare Blog, "Bringing more agent harnesses and frameworks to Cloudflare, starting with Flue", https://blog.cloudflare.com/agents-platform-flue-sdk/

Kildekreditering: Cloudflare beskriver Flue 1.0 beta, Agents SDK, Durable Objects, Code Mode, Dynamic Workers, Cloudflare Shell og Dynamic Workflows.

Thumbnail: OpenAI Image 2 / hogby.ai