Google legger sikkerhetskroker inn i Gemini-agentene

Google gjør Managed Agents i Gemini API mer styrbare. Den ferske oppdateringen gjør Gemini 3.6 Flash til standardmodell for agenten, åpner for miljøkroker før og etter verktøykall, legger inn budsjettgrenser og gjør planlagte kjøringer tilgjengelig. Det høres teknisk ut. For ledere er poenget enklere: Google bygger kontrollaget rundt agentene, ikke bare selve modellen.

Managed Agents er Googles skyhostede agentmiljø i Gemini API. En utvikler kan sende én forespørsel, og agenten kan resonnere, kjøre kode, installere pakker, håndtere filer og hente informasjon i en isolert sandbox. Det er akkurat den typen funksjonalitet mange virksomheter har testet i små piloter. Nå kommer mekanismene som må på plass før slike piloter får nærme seg produksjon.

Den viktigste nyheten er environment hooks. De lar virksomheten kjøre egne skript før eller etter agentens verktøykall. En pre-hook kan for eksempel stoppe kodekjøring eller filskriving hvis handlingen bryter en policy. En post-hook kan validere output, formatere kode, logge hendelser eller kjøre kvalitetstester. Hvis kroken avviser et kall, får modellen begrunnelsen tilbake og må justere kurs.

Dette er et viktig skifte. Mange agentprosjekter har så langt vært bygget på tillit til instruksjoner i prompten. Det er svakt. En prompt er ikke en kontroll. En policy som faktisk kan blokkere et verktøykall før det skjer, er noe annet.

Kontroll før autonomi

Googles blogg beskriver også tokenbudsjett for agentløp. Det er mer enn kostnadskontroll. Autonome agenter kan havne i lange løkker, prøve for mange alternativer eller bruke uforholdsmessig mye regnekraft på en oppgave som burde vært stoppet. Med max_total_tokens kan en kjøring pauses når budsjettet er brukt. Miljøtilstanden bevares, slik at arbeidet kan fortsette med nytt mandat eller ny vurdering.

Planlagte triggere peker i samme retning. Agenten kan bindes til et miljø, en prompt og en cron-plan. Da går den fra interaktiv assistent til en tilbakevendende digital arbeidstaker. Det er kraftig, men også mer krevende. En agent som kjører hver natt med tilgang til kode, filer og nettverk må styres som en produksjonsjobb, ikke som en demo.

For norske CIO-er er dette relevant fordi leverandørene nå pakker agentdrift inn i vanlige skyflater. Spørsmålet blir ikke om virksomheten får agenter. Spørsmålet blir hvilke rettigheter, revisjonsspor, stoppmekanismer og kostnadsgrenser de har når de først settes i arbeid.

For CISO-er er miljøkroker et signal om hvor markedet går. Agentkontroll flyttes nærmere runtime. Det holder ikke å ha en AI-policy i et dokument. Policyen må kunne håndheves når agenten forsøker å kjøre kommandoer, skrive filer, hente data eller kontakte tjenester.

Hva dette betyr for virksomheter

Google kobler også oppdateringen til modellvalg. Standardagenten bruker Gemini 3.6 Flash, mens utviklere kan pinne til andre modeller, for eksempel 3.5 Flash-Lite for lavere kost og latency. Dette gjør agentarkitekturen mer porteføljestyrt. En oppgave kan få en billig modell, en annen en sterkere modell, mens samme kontrollregime ligger rundt.

Det gir en praktisk lærdom: ledere bør slutte å vurdere agentprosjekter kun etter modellnavn. Produksjonsverdi ligger i kombinasjonen av modell, sandbox, verktøy, nettverk, policy, observability, kostnadstak og menneskelig godkjenning. En svakere modell med gode kontroller kan være mer egnet enn en sterk modell i et løst miljø.

For innkjøp og arkitektur bør kravlisten oppdateres. Be leverandøren vise hvordan verktøykall kan blokkeres, hvordan godkjenning logges, hvordan agenter stoppes, hva som skjer ved budsjettbrudd, og hvordan miljøer slettes eller isoleres. Be også om klare skiller mellom eksperiment, test og produksjon.

Oppdateringen gjør ikke Gemini-agentene risikofrie. Den viser heller at risikoen er reell nok til at Google bygger egne mekanismer for den. Det er et godt tegn. Det setter samtidig standarden for hva virksomheter bør kreve av andre agentplattformer.

Den korte vurderingen: Dette er ikke en flashy modellnyhet. Det er en driftsnyhet. Nettopp derfor er den viktig. Agentene blir først nyttige i virksomheter når de kan stoppes, måles, begrenses og revideres. Google tar et tydelig steg i den retningen.

Kilder og medier

Primærkilde: Google, Gemini API Managed Agents: 3.6 Flash, hooks, and more, https://blog.google/innovation-and-ai/technology/developers-tools/expanding-managed-agents-gemini-api-3-6-flash-hooks/ Kildekreditering: Google DeepMind og Google AI for Developers. Source_url er primærkilden over. Thumbnail: OpenAI Image 2 / hogby.ai