Gartner: Forklarbar AI vil drive LLM-overvåking til 50 % av GenAI-utrullingene innen 2028

Gartner publiserte i dag en ny prediksjon: innen 2028 vil forklarbar AI (XAI) drive investeringer i LLM-observability til å dekke 50 prosent av alle generative AI-utrullinger, opp fra 15 prosent i dag.

Det betyr at halvparten av alle bedrifter som kjører GenAI i produksjon vil ha dedikerte systemer for å overvåke hvorfor modellene svarer som de gjør, og om svarene er pålitelige.

Gartner peker på at fokuset skifter fra tradisjonelle ytelsesmål som hastighet og kostnad, til dypere kvalitetsmål: faktisk nøyaktighet, logisk korrekthet, og deteksjon av sykofantisk oppførsel. Uten disse tillitslagene vil GenAI-initiativer forbli begrenset til lavrisikooppgaver.

De globale markedet for generative AI-modeller forventes å passere 25 milliarder dollar i 2026 og nå 75 milliarder innen 2029. Gartner anbefaler at bedrifter mandaterer verifiserbar XAI-sporing for alle høyrisiko-bruksområder, og prioriterer observability-plattformer som overvåker latens, drift, token-bruk, kostnad, feilrater og outputkvalitet.

En ekstra advarsel: Gartner spår at juridiske krav knyttet til AI-skader vil overstige 2000 innen utgangen av 2026.