OpenAI og Anthropic vil ha DNA-kontroll mot AI-våpen

OpenAI, Anthropic, Google DeepMind og Microsoft AI går nå inn i en mer konkret del av AI-reguleringen: kontroll med syntetisk DNA og RNA. Ifølge WIRED står Sam Altman, Dario Amodei, Demis Hassabis og Mustafa Suleyman blant signatarene på et offentlig brev som ber lovgivere kreve screening av både kunder og bestillinger hos selskaper som selger syntetiske gensekvenser.

Poenget er ikke at en chatbot alene kan lage et fungerende biologisk våpen i morgen. Poenget er at barrierene faller. AI-verktøy kan gjøre det lettere å finne relevante leverandører, endre bestillinger slik at screening blir vanskeligere, og foreslå biologiske sekvenser som ligner farlige toksiner eller patogener. Når DNA-syntese samtidig har blitt billigere og mer tilgjengelig, flyttes risikoen fra ren forskningsetikk til leverandørstyring og nasjonal sikkerhet.

Brevet er organisert av Institute for Progress og Foundation for American Innovation. Det sier at det finnes en reell mulighet for at kunnskapsbarrierene som tidligere har hindret dårlige aktører i å skaffe biologiske våpen, blir vesentlig svekket. Det er en presis og alvorlig formulering. AI-labene ber ikke bare om mer generell sikkerhet. De peker på et bestemt marked, en bestemt kontrollsvikt og en bestemt type regulering.

Hvorfor DNA-screening blir AI-styring

Selskaper som selger syntetisk DNA brukes i legitim forskning, legemiddelutvikling og diagnostikk. Mange screener allerede kunder og sekvenser frivillig. Problemet er at markedet ikke er jevnt regulert. Noen leverandører kontrollerer både hvem som bestiller og hva som bestilles. Andre gjør mindre. Det skaper et klassisk hull: risikoen havner hos den svakeste leverandøren, ikke hos den mest ansvarlige.

WIRED viser til at forskere allerede i 2017 brukte postordre-DNA til å rekonstruere hestekoppevirus. Den episoden ble brukt som advarsel fordi metoden også kunne peke mot nært beslektede og langt farligere virus. Siden den gang har både syntese og AI-verktøy blitt billigere og mer tilgjengelige.

Microsoft-forskere publiserte i fjor en studie der AI-verktøy for proteindesign kunne generere potensielt farlige gensekvenser som slapp forbi screeningprogramvare. Det er kjernen i saken. Kontrollregimet kan ikke bare lete etter kjente sekvenser i gårsdagens database. Det må håndtere varianter, struktur-likhet og modellgenererte forslag som ligger akkurat utenfor dagens filtre.

For norske virksomheter er dette ikke bare en amerikansk biosecurity-debatt. Life science, helse, industri, forsvar, forskning og universitetene kjøper tjenester i globale verdikjeder. AI-funksjoner bygges inn i laboratorieverktøy, søk, designprogrammer og agentløp. Da blir spørsmålet om hvem som har ansvar for stoppunktene: AI-leverandøren, laboratoriet, innkjøperen, DNA-leverandøren eller regulator. Svaret blir trolig alle.

Kontrollpunktene flytter seg

Den praktiske konsekvensen er at modellstyring ikke lenger kan behandles som et rent IT-spørsmål. Når en modell kan hjelpe med biologisk design, må virksomheter vurdere bruksområde, brukergruppe, logging, tilgang, prompt-policy, eksportkontroll og leverandørvilkår samlet. Det er særlig relevant for selskaper som eksperimenterer med AI-agenter i forskning, produktutvikling eller analyse av biologiske data.

En CIO eller CISO bør lese saken som et varsel om at AI-risiko blir mer domeneavhengig. Den samme modellen kan være lavrisiko i kundeservice, middels risiko i programvareutvikling og høy risiko i et laboratorium. Tradisjonell leverandørgodkjenning fanger ikke nødvendigvis opp forskjellen. Det holder ikke å spørre om SOC 2 og databehandleravtale hvis verktøyet også kan bidra til farlig biologisk design.

Brevet peker også på en svakhet i frivillige ordninger. Bransjeinitiativer er nyttige, men de dekker ikke nødvendigvis nye aktører, lavkostleverandører eller selskaper utenfor etablerte konsortier. Hvis regulering kommer, vil den sannsynligvis kreve mer standardisert kundescreening, ordreanalyse og dokumentasjon. Det vil igjen påvirke innkjøp, compliance og kontrakter for virksomheter som kjøper biologiske materialer eller bruker AI i forskningsløp.

Hva norske ledere bør gjøre nå

Første steg er å kartlegge om organisasjonen bruker AI i arbeid med biologiske data, kjemi, legemidler, materialer eller laboratorieprosesser. Mange virksomheter vil oppdage at dette skjer i fagmiljøer uten at det ligger i sentral AI-portefølje. Det er ikke nødvendigvis et problem. Men det må være synlig.

Andre steg er å skille mellom generelle AI-verktøy og domeneverktøy med høyere risikoprofil. Et forskningsmiljø som bruker AI til proteinanalyse eller gendesign bør ha andre kontroller enn et markedsteam som bruker AI til tekstutkast. Det betyr tydeligere rollebasert tilgang, bedre logging og egne godkjenningsløp for modeller som brukes på sensitive biologiske eller kjemiske oppgaver.

Tredje steg er leverandørkrav. Spør ikke bare om modellen kan brukes trygt. Spør hva leverandøren blokkerer, hvordan den tester for misbruk, om den screener farlige biologiske forespørsler, hvordan den håndterer omgåelsesforsøk, og om den kan dokumentere stoppede eller eskalerte hendelser uten å lekke sensitiv forskning.

Saken er sterk fordi den gjør AI-sikkerhet fysisk. Risikoen stopper ikke ved dataeksfiltrasjon, hallucinasjoner eller feil kode. Den kan i verste fall kobles til produksjon av materiale i den virkelige verden. Derfor kommer også styringen til å bli mer konkret. Ikke mer policy i en perm. Flere tekniske stoppunkter, bedre sporbarhet og strengere krav til hele kjeden fra modell til leverandør.

Kilder og medier

Primær nyhetskilde: WIRED, «OpenAI and Anthropic Sign Letter to Prevent AI-Developed Biological Weapons», publisert 4. juni 2026. source_url: https://www.wired.com/story/openai-anthropic-letter-ai-biological-weapons/

Kildekreditering: WIRED / Emily Mullin. Thumbnail: OpenAI Image 2 / hogby.ai.