Vera Rubin: 7,8x GB200 – AgentX, MiniMax M3, vLLM

vLLM, Inferact, Red Hat og Nvidia har fått open source-motoren til å kjøre på Vera Rubin NVL72. På SemiAnalysis AgentX målte de MiniMax M3 til 7,84 ganger gjennomstrømning per GPU mot GB200 NVL72 ved samme interaktivitet, og 5,18 ganger under 150 tokens per sekund. På MLPerf Inference v6.1, med Qwen3-VL-235B, oppga de inntil 3,7 ganger VLM-gjennomstrømning mot GB300 NVL72.

AgentX-tallet er merket InferenceX-preview. Det kan flytte seg når validering og publisering er ferdig. For CIO er retningen likevel klar: neste rack koster annerledes per agent-token enn Blackwell-generasjonen dere budsjetterer mot nå.

Hva som er nytt

Bloggen kom 9. oktober. MiniMax bekreftet 10. oktober at M3 kjører på Vera Rubin NVL72 med vLLM. Daglige containere ligger på Docker Hub som vllm/vllm-openai:cu134-nightly, bygd med CUDA 13.4 og PyTorch 2.15. Rubin er ny kompilering (sm107), men Blackwell-kjerner (sm100f) kjører. DeepSeek, Kimi, GLM og MiniMax er i den første bølgen.

Maskinvaren, slik vLLM siterer Nvidias spek: 5 ganger NVFP4-FLOPS, om lag 2,4 ganger HBM-båndbredde og 1,7 ganger toveis NVLink mot GB200 NVL72. Softmax er raskere, 2 ganger FP32 og 4 ganger BF16/FP16 eksponential mot GB200. HBM4 og sjette generasjons NVLink er laget for MoE-decode, prefill/decode-splitt og bred ekspertparallellitet – altså agent lasting, ikke chat.

Ny programvarebit: CUDA 13.4 locality domains. vLLM splitter MoE-vekter kolonnevis og tvinger SM-er til å lese bare nærmeste HBM. På MiniMax M3 MoE-lag målte de om lag 1,2 ganger lavere FC1+FC2-latens i små token-sett. Decode er vekstbundet. Lokalitet er derfor mer enn en driverfotnote.

Rubin-spesifikke kjerner kommer via FlashInfer 0.7.0: NVFP4/MXFP4 GEMM, NVFP4 MoE, FP8-attention, FP8 MSA-prefill. MiniMax Sparse Attention-prefill er tunet. MSA-decode, MegaMoE og DeepSeek-V4.1-Flash-kjerner står på lista over det som gjenstår.

MLPerf-tallet 3,7x er ikke nytt i seg selv. Nvidia publiserte det 16. september som preview mot GB300 på Qwen3-VL med vLLM og Dynamo. vLLM tar det inn som første runde der motoren ble brakt opp på Rubin. På DeepSeek-R1 oppga Nvidia inntil 2,5 ganger mot GB300 med TensorRT-LLM, en annen stakk. Ikke bland de to.

Hva tallet ikke er

7,84x er per GPU, MiniMax M3, AgentX, matchet interaktivitet, mot GB200 – ikke mot GB300, ikke mot TensorRT-LLM, ikke mot deres egen workload. vLLM skriver at de forventer mer når de får flere noder. FourWeekMBA noterte at Nvidia tidligere har sagt 30 ganger mot GB300 på AgentX i egen preview. Det er Nvidias tall, ikke vLLMs. Bruk 7,84x som open source-måling, og krev at leverandøren oppgir hvilken benk, hvilken modell og hvilken baseline som ligger under neste kapasitetstilbud.

Hva norske ledere bør gjøre nå

FinOps: pris agent-tokens mot rack, ikke mot «en H100-ekvivalent». Hvis Rubin leverer fem til åtte ganger mer på MoE-agenter, endres både skyavtale og on-prem-case før 2027-budsjettet låses. Ta inn preview-forbeholdet i inngåelsen.

CIO: spør om inferensstakk. vLLM med daglige Rubin-bygg er et annet spor enn TensorRT-LLM. Modelldekning nå er DeepSeek, Kimi, GLM og MiniMax. Er produksjonen GPT-6 eller Claude, er dette kapasitet dere kan leie – ikke en drop-in for ClosedAPI. EØS-residency avgjøres av hvor noder står, ikke av at motoren er open source.

CISO: nye kjerner, nightly-containere og CUDA 13.4 er endringsrisiko. Pin image-digest. Ikke kjør cu134-nightly mot kundedata. Locality domains og ekspertparallellitet øker flaten i orkestreringen; logging av prefill/decode-splitt må inn før første produksjons-MoE.

Styre: neste GPU-generasjon er her som preview-tall, ikke som prisliste. Be om tre linjer i investeringssaken: tokens per watt på dagens stakk, forventet tokens per watt på Rubin med navngitt motor, og hva som skjer med bindingen til Nvidia hvis vLLM gjør bytte av modell billigere enn bytte av rack.

Kilder og medier

Primærkilde: vLLM Team, Inferact, Red Hat and NVIDIA, «vLLM Support for NVIDIA Vera Rubin NVL72: 7.8x Throughput over GB200 NVL72», 9. oktober 2026. https://vllm.ai/blog/2026-10-09-vera-rubin-preview

NVIDIA, «NVIDIA Vera Rubin NVL72 Delivers Leading Performance in MLPerf Inference v6.1 Debut», 16. september 2026. https://blogs.nvidia.com/blog/vera-rubin-nvl72-mlperf-inference/

Thumbnail: OpenAI Image 2 / hogby.ai