Cloudflare bygger AI Gateway om til et inferenslag for agenter

Cloudflare annonserte 16. april at AI Gateway bygges ut til et samlet inferenslag for agentiske AI-applikasjoner. Målet er å gi utviklere én API-flate for å kalle modeller fra mange leverandører, med styring av kostnad, feil og ytelse på tvers av hele kjeden.

Det konkrete nye er at tredjepartsmodeller nå kan kalles via samme AI.run()-binding som Workers AI, og at Cloudflare samler mer enn 70 modeller fra over 12 leverandører i ett katalog- og kredittsystem. Selskapet løfter også fram sentralisert kostnadsoversikt, metadata-basert styring og støtte for multimodale modeller innen bilde, video og tale. REST-støtte for miljøer utenfor Workers er varslet de neste ukene.

Dette treffer et reelt problem i agentmarkedet. En chatbot kan ofte leve med ett modellkall. En agent kan kjede sammen mange kall, flere modeller og flere leverandører i samme oppgave. Da blir vendor lock-in, observabilitet og feilhåndtering fort viktigere enn selve modellen.

For CIO-er er dette en påminnelse om at den nye konkurransen ikke bare står mellom modellene, men mellom plattformene som kontrollerer ruting, styring og økonomi rundt modellbruken. Cloudflare prøver å ta den posisjonen tidlig.

Kilde og datovalidering

Den opprinnelige kilden er Cloudflare-bloggen, "Cloudflare’s AI Platform: an inference layer designed for agents", publisert 16. april 2026. Google News RSS daterer saken til 13:09:42 UTC, så den er innenfor både 48-timerskravet og siste 90 minutter ved denne skanningen.