Google DeepMind vil gjøre AI-agenter ansvarlige med kontrakter og omdømmesystemer

Google DeepMind har publisert et rammeverk for «intelligent delegasjon» som skal løse et av de store problemene med AI-agenter: manglende ansvarlighet når de delegerer oppgaver til hverandre.

Rammeverket introduserer verifiserbare kontrakter mellom AI-agenter og et omdømmesystem som sporer hvor pålitelig en agent har vært over tid. Ideen er at en agent ikke bare skal gi en oppgave videre til en annen agent, men at det skjer innenfor et avtaleverk som kan etterprøves og revideres.

Dette er et svar på et grunnleggende problem i multi-agent-systemer: når en AI-agent delegerer til en annen, er det svært vanskelig å spore hvem som tok hvilke beslutninger, og hvem som er ansvarlig hvis noe går galt. Med kontrakter og omdømmesporing ønsker DeepMind å gi systemene en form for sporbarhet og tillit.

Rammeverket er beskrevet i en forskningsartikkel og er ennå ikke implementert i noe produksjonsprodukt, men signalerer tydelig hvilken retning Google ser for seg for ansvarlig AI-orkestrering.

For virksomheter som bygger egne AI-agentflåter er dette relevant allerede nå. Spørsmål om ansvarlighet, auditbarhet og kontroll er ikke bare tekniske, de er juridiske og compliance-relaterte. DeepMinds rammeverk kan bli en standard som regulatorer og revisorer vil vise til.