Amazon åpner Trainium-brikkene for PyTorch-kode uten omskriving

Amazon lanserer TorchNeuron, et verktøy som skal la eksisterende PyTorch-kode kjøre på selskapets egne KI-brikker, AWS Trainium. Ifølge Amazon holder det med én konfigurasjonsendring, uten omskriving. Verktøyet blir åpen kildekode under Apache 2.0-lisensen og går ut som offentlig beta 20. oktober, på PyTorch Conference North America. For virksomheter som trener eller kjører egne modeller i AWS, kan det bli enklere å teste et alternativ til grafikkort. Kunngjøringene oppgir ikke pris.

Hva Amazon har kunngjort

Amazon publiserte kunngjøringen 19. oktober kl. 15:00 norsk tid. AWS-teamet bak verktøyet beskrev de tekniske detaljene i et eget innlegg på PyTorch-bloggen samme dag.

TorchNeuron registrerer Trainium som en vanlig enhet i PyTorch. Utviklere flytter en modell til brikken med .to('neuron'), på samme måte som de i dag flytter den til et grafikkort. Ifølge PyTorch-innlegget støtter verktøyet både eager-modus for forskning og feilsøking og torch.compile for produksjon. Standard API-er for distribuert trening, som FSDP2, tensorparallellitet og pipelineparallellitet, skal også virke. TorchNeuron støtter Trainium2 og Trainium3.

Hugging Face har lagt inn Trainium som støttet enhet i Transformers, Diffusers og TRL. Ifølge Amazon kan utviklere dermed bruke Trainium uten Amazon-spesifikk kode.

Til nå har TorchNeuron bare vært tilgjengelig i et lukket betaprogram. Fra 20. oktober skal verktøyet kunne installeres med pip fra AWS Neurons pakkeregister, og kildekoden skal ligge på GitHub.

Hvorfor dette handler om leverandøravhengighet

Mye KI-programvare er i praksis tilpasset Nvidias grafikkort og CUDA-plattformen. Å flytte en arbeidslast til en annen brikke har ofte betydd at kode må skrives om og testes på nytt. Amazon skriver selv at slik tilpasning kunne ta måneder, og at ingeniørtid ofte er den største kostnaden.

Hvis TorchNeuron virker som Amazon beskriver, blir det billigere å teste om en modell kan flyttes fra grafikkort til Trainium. Det kan gi virksomheter en bedre forhandlingsposisjon overfor både skyleverandører og brikkeprodusenter.

Samtidig binder Trainium arbeidslasten til AWS, siden brikkene bare leies ut der. Vår vurdering er at valget står mellom avhengighet av Nvidia og avhengighet av Amazon, ikke mellom avhengighet og frihet. Koden blir mer flyttbar, men kapasiteten gjør det ikke.

Hva tallene sier, og hva de ikke sier

Kunngjøringene inneholder få målbare tall fra Amazon selv. Det mest konkrete kommer fra kunden Deepgram. Selskapets teknologidirektør Adam Sypniewski sier at Trainium i deres egne målinger behandlet om lag 60 prosent flere sekunder med lyd per dollar enn deres eksisterende GPU-oppsett. Det er en kundepåstand om én arbeidslast, ikke en uavhengig test.

PyTorch-innlegget er åpent om begrensninger. I PyTorchs egen testsuite hoppes rundt 22 000 tester over fordi operatorene ennå ikke har en egen Neuron-implementasjon. Første versjon støtter blant annet ikke dynamiske former, sparse tensorer og NestedTensor. FP8 og TorchAO er foreløpig i privat beta. AWS oppgir at teamet kjører 100 000 Hugging Face-modeller fortløpende, men resultatet vises bare i en graf, ikke som tall i teksten.

Kunngjøringene oppgir ikke pris, hvilke AWS-regioner som tilbyr Trainium3, eller noe om tilgjengelighet i EU.

Hva norske ledere bør gjøre

• Virksomheter som trener eller kjører egne modeller i AWS, kan be teamet eller leverandøren om en kort test med en reell arbeidslast etter 20. oktober. Mål kostnad per resultat, ikke bare hastighet.
• Avklar region og datalokasjon før en eventuell flytting, og sjekk hvilke regioner som faktisk tilbyr Trainium2 og Trainium3 for virksomhetens konto.
• Behandle betastatusen som en reell driftsrisiko. Produksjonslaster bør vente til verktøyet er stabilt og dekket av supportavtalen med AWS.

Virksomheter som bare kjøper ferdige KI-tjenester, merker lite til dette direkte. Effekten for dem avhenger av om leverandørene får billigere regnekraft og gir det videre.

Kilder og medier

• Amazon, «Amazon opens its AWS Trainium AI chips to every PyTorch developer, no rewrite needed» (Isaac Schultz), publisert 19.10.2026 kl. 15:00 norsk tid: https://www.aboutamazon.com/news/innovation-at-amazon/torchneuron-pytorch-aws-trainium-chips-ai
• PyTorch-bloggen, «Introducing TorchNeuron: Native PyTorch backend for AWS Trainium», publisert 19.10.2026 kl. 14:45 norsk tid: https://pytorch.org/blog/introducing-torchneuron-native-pytorch-backend-for-aws-trainium/
• X-post fra @amazon (Amazon, verifisert bedriftskonto), 19.10.2026 kl. 16:01 norsk tid: https://x.com/amazon/status/2112182407256277095
• X-post fra @PyTorch (PyTorch, verifisert konto), 19.10.2026 kl. 15:12 norsk tid: https://x.com/PyTorch/status/2112170050581143952
• Kildene ble sjekket 19.10.2026 mellom kl. 18:18 og 18:21 norsk tid.
• Illustrasjon: KI-generert med Grok Bot / hogby.ai