AI kan bli mer skjev enn mennesker i ansettelser

AI i ansettelser får ofte én forklaring: Modellen har lært skjevheter fra gamle data. Det er riktig, men ikke lenger nok. En ny studie omtalt av MIT Technology Review peker på en mer ubehagelig mekanisme. Språkmodeller kan danne nye stereotyper gjennom egen erfaring, selv når gruppene i forsøket egentlig er like gode.

Forskerne ved Princeton University og University of Chicago testet blant annet ChatGPT, Claude og Gemini i et simulert ansettelsesspill. Modellene fikk rollen som konsulent for borgermesteren i en fiktiv by. De skulle hjelpe til med å ansette folk til 20 yrker, blant annet leger, advokater, barnehageassistenter og renholdere. Kandidatene kom fra fire oppdiktede etniske grupper.

Poenget var at gruppene ikke hadde reelle forskjeller i evne. Alle kandidater hadde samme sannsynlighet for å lykkes i alle jobber. Likevel begynte modellene raskt å sortere grupper inn i bestemte yrker basert på tidlige tilfeldige utfall. Hvis en kandidat fra én gruppe mislyktes som lege, kunne modellen trekke slutninger om hele gruppen og styre dem mot lavere rangerte jobber.

Det bør treffe styrerommet hardere enn nok en generell advarsel om AI-bias. Mange virksomheter er på vei fra enkle chatbotter til AI-systemer med minne, personalisering og oppgaveansvar. Da holder det ikke å spørre om treningsdataene var balanserte. Man må også spørre hva systemet lærer underveis, hvilke mønstre det forsterker, og om det får belønning for et mål som overstyrer rettferdig behandling.

I studien var modellene mer tilbøyelige til å stereotypisere enn mennesker i det opprinnelige psykologiforsøket. På forskernes segregeringsskala, der 2 betyr at hver gruppe er helt låst til sin egen jobbnisje, scoret menneskene 0,84. Modellene lå om lag 65 prosent høyere. OpenAIs resonneringsmodell o3 scoret 1,83, nær maksimum.

Det er et viktig signal for ledere som vurderer AI i HR, kreditt, saksbehandling eller kundesegmentering. Det er fristende å tenke at mer avanserte modeller automatisk blir tryggere. Studien peker motsatt vei i sosiale beslutninger. Modeller som er gode til å generalisere fra få eksempler i matematikk, kode og problemløsing, kan også generalisere for raskt når de møter mennesker.

For CIO og HR-direktør betyr dette at risikoen ikke kan delegeres til leverandørens modellkort alene. En løsning som scorer høyt på generelle tester, kan fortsatt være feil verktøy i prosesser der en enkelt beslutning påvirker jobb, lån eller offentlig ytelse. Det må testes i konteksten den faktisk skal brukes i. Ikke med demodata som ser pene ut i en pilot, men med kontrollerte forsøk som måler forskjellsbehandling, avvik over tid og effekt av minnefunksjoner.

Det mest interessante i studien er også det mest praktiske. Å be modellen om å være rettferdig endret ikke atferden særlig mye. Det er en nyttig realitetsorientering. Prinsipper i systemprompten er svake kontroller hvis den operative målsettingen belønner flest mulige riktige ansettelser, raskest mulig. Da vil modellen optimalisere mot målet den faktisk får betalt for, ikke verdiene som står i policy-dokumentet.

Da forskerne ga modellene en ekstra belønning for mangfoldige ansettelser, falt skjevheten tydelig. Det peker mot en mer moden styringsmodell: Rettferdighet og etterprøvbarhet må bygges inn i målfunksjon, evaluering og beslutningsprosess. Det holder ikke med et vedlegg fra compliance.

For norske virksomheter kommer dette tett på kommende AI-regulering. Rekruttering og tilgang til arbeid er et område der feil kan gi både juridisk, omdømmemessig og operasjonell risiko. Hvis en AI-løsning brukes til screening, rangering eller anbefalinger, må virksomheten kunne forklare datagrunnlag, testmetode, menneskelig kontroll og hvordan modellen hindres i å lære uønskede mønstre i drift.

CISO bør også inn i diskusjonen. Når AI-systemer får minne og tilgang til interne arbeidsflyter, blir beslutningskvalitet en sikkerhetsegenskap. En modell som lærer feil av begrensede observasjoner, kan ikke bare diskriminere. Den kan også prioritere feil saker, flagge feil personer, overse avvik eller skape automatisert drift med skjev risikoforståelse.

Den korte konklusjonen er enkel: AI i ansettelser må styres som et beslutningssystem, ikke som et produktivitetsverktøy. Før utrulling bør ledelsen kreve uavhengige tester, klare stoppunkter, audit-logg, jevnlig bias-måling og en plan for hva som skjer når modellen endrer atferd. Hvis svaret bare er at leverandøren bruker en stor og moderne modell, er svaret for tynt.

Kilder og medier

Primærkilde: MIT Technology Review, "AI is more likely than humans to form biases when hiring", https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/ Kildegrunnlag: MIT Technology Review omtaler studien fra Princeton University og University of Chicago, publisert ved ICML i Seoul i juli 2026. Thumbnail: OpenAI Image 2 / hogby.ai