Meta fjernet ansiktsgjenkjenning fra smartbrille-appen

Meta har fjernet store deler av et uaktivert ansiktsgjenkjenningssystem fra Meta AI-appen, følgeappen for selskapets smartbriller. Det skriver WIRED, som analyserte den nyeste versjonen av appen etter å ha avslørt at systemet allerede lå inne i koden.

Systemet ble internt kalt NameTag. Ifølge WIRED var det laget for å gjøre ansikter fanget av brillene om til biometriske signaturer, ofte omtalt som faceprints, og sammenligne dem med en database lagret på brukerens enhet. Appen inneholdt også logikk for å lagre og indeksere ansikter systemet ikke kjente igjen, slik at de kunne behandles senere.

Dette var ikke en funksjon brukerne kunne slå på. Det gjør saken mer interessant for ledere og styrer, ikke mindre. Den handler om hva som kan ligge i distribuerte apper og klienter før produktet formelt er lansert, og hvor krevende det blir å kontrollere biometrisk AI når kamera, briller, mobilapp og modellkjøring smelter sammen.

Meta sier til WIRED at funksjonen er utforskende, og at det ikke er tatt noen endelig beslutning om den skal brukes. Selskapet svarte ikke på WIREDs spørsmål om hvorfor koden ble fjernet, eller om endringen var planlagt før artikkelen ble publisert.

Fra produktvalg til compliance-risiko

For norske virksomheter er dette først og fremst en styringssak. Ansiktsgjenkjenning er biometrisk behandling. Det er ikke bare en avansert funksjon i en app. Det er behandling av data som kan identifisere personer i fysiske rom, ofte uten at personen selv har et aktivt forhold til produktet.

Når teknologien kobles til smartbriller, endres risikobildet. Kameraet peker utover. Personene som registreres, er ikke nødvendigvis kunder, ansatte eller innloggede brukere. De kan være forbipasserende, gjester, pasienter, skoleelever, ansatte hos en leverandør eller personer i et møte. Da holder det ikke å spørre om brukeren har samtykket til å bruke en app. Spørsmålet blir hvem som faktisk blir fanget opp, hva som lagres, hvor lenge det lagres, og hvem som kan få tilgang.

I Europa treffer dette både personvernregler, arbeidsliv, informasjonssikkerhet og AI-styring. En pilot med smartbriller kan derfor ikke behandles som en vanlig enhetsutrulling. Den må vurderes som en kombinasjon av kameraovervåking, biometrisk behandling, AI-funksjonalitet og tredjepartsplattform. Det er fire risikokategorier i samme pakke.

WIRED skriver at den nye versjonen av Meta AI-appen fjernet selve ansiktsgjenkjenningsprogramvaren, prosessen som skulle kjøre gjenkjenningen, en varslingstekst for gjenkjent person og en mappe der bilder og biometriske signaturer av ukjente ansikter kunne lagres. Noen rester skal fortsatt ligge igjen, blant annet en intern debug-etikett og en sovende lenke til en profil.

Det viktige poenget er ikke om denne konkrete funksjonen kommer tilbake. Det viktige poenget er at grensen mellom "ikke lansert" og "allerede distribuert" kan være tynn. For CISO og DPO betyr det at risikovurderingen må flyttes tidligere i anskaffelsen. Det er for sent å oppdage biometrisk funksjonalitet når enhetene allerede er i pilot hos salg, logistikk, helse, industri eller feltservice.

Hva ledelsen bør kreve

Virksomheter som vurderer smartbriller, kroppsbårne kameraer eller multimodale AI-assistenter bør stille tre spørsmål før pilot.

Først: Hvilke sensorer er aktive, og hvilke data kan fanges også når funksjonen ikke markedsføres som biometrisk? Kamera, mikrofon, posisjon og blikkretning kan skape et langt mer følsomt datasett enn en vanlig mobilapp.

Deretter: Hvilken kode og hvilke modeller ligger faktisk på enheten eller i følgeappen? Leverandørens produktark er ikke nok. Det må finnes kontraktskrav, teknisk dokumentasjon og rett til revisjon når en løsning kan behandle biometriske data.

Til slutt: Hvem blir eksponert uten å være bruker? Dette er særlig viktig i arbeidslivet. En ansatt kan få utlevert briller, men kolleger, kunder og publikum kan bli en del av databehandlingen. Det skaper andre krav til informasjon, formål, tilgangsstyring, sletting og vurdering av nødvendighet.

Meta-saken er også et varsel om leverandørstyring. AI-funksjoner blir ikke alltid lansert som store pressemeldinger. De kan dukke opp som inaktive moduler, "eksperimentelle" flagg eller regionale utrullinger. Hvis virksomheten ikke har rutiner for å fange slike endringer, blir AI-governance fort en skrivebordsøvelse.

Den praktiske konsekvensen er enkel: smartbriller og multimodale assistenter bør inn i samme kontrollspor som MDM, endepunktsikkerhet, personvernkonsekvensvurdering og modellstyring. Ikke som gadget. Som sensorplattform med AI på toppen.

Kilder og medier

Kilde: WIRED, "Meta Deletes Face-Recognition System From Its Smart Glasses App After WIRED Report": https://www.wired.com/story/meta-removes-face-recognition-code-meta-ai-app-smart-glasses/

Kildekreditering: WIRED for faktagrunnlaget om kodeendringen i Meta AI-appen, NameTag-systemet og Metas kommentar.

Thumbnail: OpenAI Image 2 / hogby.ai