Google gir Gemini nye krise- og mental health-safeguards

Google publiserte 7. april en offisiell oppdatering av Gemini med nye mekanismer for mental helse og akutte krisesituasjoner. Endringen handler ikke om en ny modell, men om hvordan Gemini skal reagere når samtaler tyder på psykisk krise eller behov for hjelp.

Det viktigste grepet er en ny "one-touch"-flyt for samtaler som kan indikere selvmordstanker eller selvskading. Når Gemini vurderer at en samtale nærmer seg en akutt situasjon, skal brukeren få en forenklet og vedvarende meny for å ringe, chatte, sende melding eller besøke hjelpelinjer direkte.

Google sier også at Gemini nå viser en ny "Help is available"-modul når brukeren kan trenge informasjon eller støtte knyttet til mental helse. Løsningen er utviklet med kliniske eksperter, og Google sier modellen er trent til å oppmuntre til å søke hjelp, unngå å bekrefte skadelig atferd og ikke forsterke vrangforestillinger eller åpenbart falske oppfatninger.

Samtidig kobler Google dette til en bredere satsing. Google.org lover 30 millioner dollar over tre år til globale hjelpelinjer, og selskapet utvider samarbeidet med ReflexAI med 4 millioner dollar og Gemini-integrasjon i opplæringsverktøy for støtteorganisasjoner.

Hvorfor dette betyr noe: Dette er et tydelig signal om at AI-sikkerhet nå flytter seg fra generelle prinsipper til konkrete produktmekanismer i brukergrensesnittet. For CIO-er og produktledere er poenget enkelt: hvis AI brukes i følsomme arbeidsflater, holder det ikke lenger å ha policy på papiret. Det må finnes spesifikke eskaleringsbaner, menneskelig fallback og dokumenterbare sikkerhetsgrep i selve opplevelsen.

Originalkilde: Google-bloggen "An update on our mental health work", publisert 7. april 2026.