Gaslight viser at skadevare angriper AI-verktøyene

Skadevareforfattere har begynt å skrive for en ny leser: AI-verktøyet som analyserer koden etterpå.

BleepingComputer omtaler en ny macOS-skadevare kalt Gaslight. Den beskrives som en Rust-basert bakdør og infostealer, og skal ifølge saken være knyttet med høy tillit til en nordkoreansk aktør. Det spesielle er ikke bare funksjonen. Det spesielle er at skadevaren inneholder en egen nyttelast med falske meldinger som ser ut som systemlogger, utviklerfeil og analyseutdata.

Ifølge BleepingComputer inneholder Gaslight en 3,5 KB blokk med 38 falske «system»-meldinger direkte i binæren. Meldingenes formål er å forvirre AI-støttede analyseverktøy. De kan late som om det har oppstått en analysefeil, at en token er utløpt, at en Redis-forbindelse feiler, at en prosess er drept av minnefeil, eller at andre irrelevante problemer har oppstått. Poenget er ikke å lure en erfaren reverserer med øynene åpne. Poenget er å påvirke verktøykjeden som nå brukes til å oppsummere, klassifisere og prioritere skadevare.

Dette gjør prompt injection mer praktisk for sikkerhetsledere. Angrep mot AI-systemer handler ikke bare om chatboter som leser nettsider. De handler også om logger, filer, vedlegg, kode og binærer som blir matet inn i analyseverktøy. Hvis AI-en behandler innholdet som instruksjoner i stedet for bevismateriale, kan angriperen påvirke analysen.

For CISO-er er lærdommen tydelig: AI i SOC må styres som et høyprivilegert analysesystem, ikke som en nøytral tekstbehandler. Når et verktøy leser en skadevareprøve, et phishing-vedlegg eller en logg fra et kompromittert system, leser det fiendtlig innhold. Det innholdet bør aldri få lov til å instruere modellen om hvordan den skal oppføre seg.

Tiltakene er konkrete. Analysepipelines bør skille data og instruksjoner hardt. Meldinger fra filer og logger bør pakkes inn som ubetrodd materiale. Verktøy bør kunne fjerne eller normalisere tekst som forsøker å ligne systemprompter, utviklermeldinger eller interne feilmeldinger. Viktige funn bør verifiseres med deterministiske verktøy og menneskelig review, særlig før en hendelse nedprioriteres.

Mac-flåter fortjener også mer oppmerksomhet. Mange virksomheter har gitt utviklere, ledere og kreative miljøer stor frihet på macOS, samtidig som AI-verktøy og nettleserbaserte arbeidsflater har fått mer tilgang. En skadevare som både stjeler informasjon og prøver å påvirke analyseleddet, passer dårlig med svak endpoint-telemetri og utydelige rutiner for innsamling.

Dette betyr ikke at AI bør ut av sikkerhetsarbeidet. Tvert imot kan AI spare tid i triage og forklaring. Men SOC-team må anta at angripere tester mot AI-verktøyene deres. Da må kontrollene flyttes inn i selve arbeidsflyten: uavhengig sandboxing, streng egress, begrensede rettigheter, logging av modellkall og krav om at AI-forslag skal kunne spores tilbake til tekniske observasjoner.

Gaslight er et lite navn på en større endring. Når forsvarere bruker AI til å lese angrep raskere, vil angripere skrive angrep som prøver å lese AI-en tilbake. Den som overser det, får en blind flekk akkurat der automatiseringen skulle gi bedre sikt.

Kilder og medier

• Kilde: BleepingComputer, "New macOS malware embeds fake errors to confuse AI analysis tools", 25. juni 2026. https://www.bleepingcomputer.com/news/security/new-macos-malware-embeds-fake-errors-to-confuse-ai-analysis-tools/
• Kildekreditering: BleepingComputer.
• Thumbnail: OpenAI Image 2 / hogby.ai