Hopp til hovedinnhold

Google DeepMind lot KI-agenter bevise at Signal-krypteringen holder – helt ned i maskinkoden

AlphaProof Code skrev 6,5 millioner linjer maskinsjekket bevis for Signal-protokollen på fire uker. Beviset gjelder kjernen i koden, ikke hele Signal-appen.

Av Joachim HøgbyKilde: Google DeepMind

Google DeepMind har brukt KI-agenter til å bevise matematisk at sentrale sikkerhetsegenskaper i Signal-protokollen holder, helt ned i maskinkoden som faktisk kjører. Protokollen beskytter meldinger i Signal og Google Messages. Ifølge DeepMind er det første gang koden bak en så utbredt krypteringsprotokoll er formelt verifisert på dette nivået, med eller uten KI.

Arbeidet tok fire uker. DeepMind skriver at det tidligere ville tatt ekspertteam flere år. Selskapet publiserte resultatet og en teknisk rapport 10. november, og løftet det fram på sin offisielle X-konto onsdag 11. november klokka 12.50 norsk tid.

Slik gjorde DeepMind det

Verktøyet heter AlphaProof Code. Det deler arbeidet slik et forskerteam ville gjort. Først skrev forskerne, sammen med flere språkmodeller, ned Signals sikkerhetsmål som formelle matematiske spesifikasjoner i bevisspråket Lean. Mennesker gikk gjennom hver eneste spesifikasjon.

Deretter tok agenter drevet av Googles modell Gemini Carbon over. De skrev rundt 6,5 millioner linjer Lean-bevis, ifølge den tekniske rapporten. Et bevis godtas bare hvis Leans egen kjerne kontrollerer det mot den godkjente spesifikasjonen. Agentene pekte selv ut rundt én prosent av materialet som trengte en ekstra menneskelig gjennomgang.

Bevisene hviler på omtrent 26 000 linjer med spesifikasjoner og en formell modell av ARM-prosessorens maskinkode (AArch64), som forskerne må stole på. Selve Rust-kildekoden og kompilatoren trenger de ikke stole på, fordi beviset gjelder det ferdige programmet.

Hva som faktisk er bevist

Bevisene dekker Signals post-kvante-håndtrykk PQXDH og meldingsmekanismen Triple Ratchet i libsignal versjon 0.105.4 med SPQR 1.6.0. DeepMind beviser blant annet autentisering, at gamle meldinger forblir beskyttet om en nøkkel lekker senere, og at samtalen gjenoppretter sikkerheten etter at en enhet har vært kompromittert en periode.

For å teste at verktøyet skiller god kode fra dårlig, satte forskerne inn igjen to ekte feil som Signal allerede hadde rettet. I begge tilfellene produserte systemet et maskinsjekket bevis på at den feilaktige versjonen var usikker.

Signals teknologidirektør Ehren Kret kaller det i DeepMinds kunngjøring «et stort gjennombrudd» å bruke KI-agenter til å oversette levende kode til gyldige Lean-teoremer.

Det beviset ikke sier

Overskriften «Signal er bevist sikker» er for sterk. Verifiseringen gjelder en avgrenset kommandolinjeversjon av biblioteket, kompilert for AArch64. Nøkkelgenereringen er ikke verifisert, og de kryptografiske byggeklossene er beskrevet som kontrakter som forutsettes å holde. Signal-appen som helhet, serverne og gruppesamtaler er ikke en del av beviset.

DeepMind oppgir ikke hva arbeidet kostet i regnekraft, og sier ikke om AlphaProof Code blir et kommersielt produkt. Selskapet gjør spesifikasjonene og bevisene åpent tilgjengelige.

Dette bør norske ledere vite

Formell verifisering har vært forbeholdt fly, kjernekraft og noen få kritiske systemer, fordi det har vært for dyrt. Hvis KI-agenter kan gjøre jobben på uker i stedet for år, kan matematiske garantier for kode bli noe flere virksomheter etterspør. Det er vår vurdering, ikke noe DeepMind lover.

  • Kryptert kommunikasjon har fått et sterkere bevisgrunnlag. For virksomheter som bruker Signal til sensitiv kommunikasjon, styrker dette tilliten til kjernen i protokollen, men ikke til telefonen, appen eller rutinene rundt.
  • Spør leverandørene hvordan koden er kontrollert. DeepMind beskriver selv målet som å bringe slik sikkerhet til bedrifter, myndigheter og kritisk infrastruktur. Det blir et naturlig spørsmål i anskaffelser av kritisk programvare.
  • Det samme verktøyet virker begge veier. Tidligere i november omtalte hogby.ai hvordan DeepMinds agenter fant svakheter i utdatert RSA-1024. KI blir både et angreps- og et forsvarsverktøy for kryptografi.

Kilder og medier

Illustrasjon: KI-generert med Grok Bot / hogby.ai

Mer om AI

Oppskriften. Strategien. Hver dag.

AI-nyheter for ledere. Kuratert av en CIO som bygger det selv. Daglig i innboksen.