Gimlet Labs henter 80 millioner: AI skal kjøre på all tilgjengelig maskinvare samtidig

En Stanford-professor og seriegründer har hentet 80 millioner dollar i Serie A for en idé som kan revolutionere hvordan AI kjøres i skyen. Gimlet Labs har bygget det de kaller verdens første "multi-silikon inferens-sky", programvare som lar én AI-arbeidsoppgave kjøre parallelt på tvers av vidt forskjellig maskinvare.

Runden ble ledet av Menlo Ventures. Selskapet ble grunnlagt av Zain Asgar og medgründerne Michelle Nguyen, Omid Azizi og Natalie Serrino.

Kjerneproblemet de løser er enkelt å forstå. En AI-agent kjeder typisk sammen mange steg, og hvert steg krever ulik hardware: inferens er compute-krevende, decode er minnekrevende, og tool-kall er nettverksbegrenset. Ingen enkelt chip gjør alt optimalt. Konsekvensen er at store deler av installert AI-maskinvare går på tomgang.

"Apps bruker eksisterende hardware et sted mellom 15 og 30 prosent av tiden," sier Asgar til TechCrunch. "Du kaster bort hundrevis av milliarder dollar på tomme ressurser."

Gimlet Labs' løsning er orkestreringslagvare som skjærer opp agentic arbeidsbelastninger og fordeler dem simultant på tvers av NVIDIA-, AMD-, Intel-, ARM-, Cerebras- og d-Matrix-brikker. Selskapet hevder pålitelig 3x til 10x raskere inferens for samme kostnad og energiforbruk.

McKinsey anslår at datasenterinvesteringene kan nå nær 7 billioner dollar innen 2030. Med den veksten er optimalisering av eksisterende maskinvare like viktig som å anskaffe ny. Gimlet Labs satser på at industrien er klar til å betale for en programvarelag som gjør nettopp det.