OpenAI lanserer ny sikkerhetsstrategi for å beskytte barn mot AI-relatert utbytting

OpenAI har offentliggjort en omfattende sikkerhetsstrategi for å beskytte barn mot AI-relatert utbytting, som respons på økende bekymringer rundt barnesikkerhet online.

Hovedpunkter i strategien

Det nye Child Safety Blueprint ble lansert tirsdag og er designet for å hjelpe med:

• Raskere oppdagelse av AI-generert misbruksmateriale
• Bedre rapporteringsmekanismer til politiet
• Mer effektiv etterforskning av AI-muliggjort barneutbytting

Alarmerende tall

Internet Watch Foundation (IWF) rapporterer at over 8.000 tilfeller av AI-generert seksuelt misbruksmateriale av barn ble oppdaget i første halvår 2025 - en økning på 14% fra året før.

Kriminelle bruker AI-verktøy til å:

• Generere falske eksplisitte bilder av barn for finansiell utpressing
• Lage overbevisende meldinger for grooming

Samarbeid med myndigheter

Strategien er utviklet i samarbeid med:

• National Center for Missing and Exploited Children (NCMEC)
• Attorney General Alliance
• Statsadvokater fra North Carolina og Utah

Tre hovedområder

• Oppdatert lovgivning - Inkludere AI-generert misbruksmateriale i eksisterende lover
• Forbedrede rapporteringsmekanismer - Sikre at relevant informasjon når etterforskere raskt
• Forebyggende sikkerhetstiltak - Integrere beskyttelse direkte i AI-systemene

Bakgrunn for initiativet

Denne strategien kommer etter økende gransking fra beslutningstakere og bekymrede foreldre, spesielt etter tragiske hendelser hvor unge mennesker døde etter å ha interagert med AI-chatboter.

I november 2025 ble det anlagt syv søksmål i California som hevdet at OpenAI lanserte GPT-4o før det var klart, og at produktets psykologisk manipulerende natur bidro til selvmord.

CIO-perspektiv

For teknologiledere representerer dette et viktig skritt mot ansvarlig AI-utvikling. Bedrifter må nå vurdere:

• Hvordan implementere lignende sikkerhetstiltak i egne AI-systemer
• Risikovurdering av AI-verktøy som brukes av ansatte
• Compliance med nye regulatoriske krav
• Balanse mellom innovasjon og ansvarlig teknologibruk

OpenAIs proaktive tilnærming setter en ny standard for hvordan AI-bedrifter må forholde seg til samfunnsansvar og brukertryghet.