AnswersPublished17 sources
PyTorch får nye veier til Googles og Amazons AI-brikker
TorchTPU er Googles åpne PyTorch backend for TPU er, utviklet i samarbeid med Meta og gjort tilgjengelig 20. Amazon kunngjorde TorchNeuron 19.
Publisert avRedigert med GPT-6 LunaBilder generert med GPT Image 2
Research answer
Key takeaways
- TorchTPU er Googles åpne PyTorch backend for TPU er, utviklet i samarbeid med Meta og gjort tilgjengelig 20.
- Amazon kunngjorde TorchNeuron 19. oktober.
- Verktøyene kan redusere behovet for å skrive om kode, men kompatibilitet og ytelse må fortsatt vurderes for hver modell og arbeidsflyt.[17][28]
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How do Google’s October 20 open-source release of TorchTPU and Amazon’s October 19 announcement and subsequent public beta of TorchNeuron ai. Article summary: TorchTPU and TorchNeuron aim to make Google TPUs and AWS Trainium easier alternatives to Nvidia GPUs by letting developers retain their PyTorch applications and change the execution backend rather than rewrite the model . Topic tags: general, general web, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
Google og Amazon prøver å gjøre det enklere å bruke PyTorch på egne AI-brikker. Googles TorchTPU retter seg mot TPU-er, mens Amazons TorchNeuron er laget for Trainium. Begge gir utviklere en mer direkte vei fra PyTorch-kode til alternativ maskinvare, uten at de nødvendigvis må bygge hele programvaren på nytt.9
10
Det kan senke terskelen for å prøve en annen brikke enn en Nvidia-GPU. Men enklere bytte betyr ikke at alle modeller kjører uendret, eller at ytelsen automatisk blir like god. Det avhenger fortsatt av arbeidsbelastningen og hva den enkelte backend støtter.17
28
Hva er TorchTPU og TorchNeuron?
PyTorch er et mye brukt rammeverk for å utvikle og kjøre AI-modeller. Mange utviklere har tradisjonelt tatt utgangspunkt i Nvidia-GPU-er, noe som har gitt Nvidia en sterk posisjon i programvareøkosystemet.4 TorchTPU og TorchNeuron skal gjøre Googles og Amazons brikker til mer direkte alternativer innenfor PyTorch.
- TorchTPU er en åpen kildekode-backend for PyTorch på Googles TPU-er, utviklet i samarbeid med Meta. Google gjorde prosjektet tilgjengelig 20. oktober 2026.
10
- TorchNeuron er en åpen kildekode-backend for PyTorch på AWS Trainium. Amazon kunngjorde den 19. oktober og varslet åpen kildekode-utgivelse dagen etter. PyTorchs kunngjøring oppgir 20. oktober som starten på den offentlige betaversjonen.
2
Målet er å endre hvor PyTorch-operasjonene kjøres, uten å måtte bygge hele applikasjonen rundt et annet rammeverk. Amazon beskriver kjøring av eksisterende kode med en konfigurasjonsendring, og AWS-dokumentasjonen viser hvordan Trainium velges som enheten neuron.28
Mindre arbeid ved maskinvarebytte
Et bytte av brikke handler ikke bare om selve modellkoden. Programvarestakken må også støtte operasjonene, verktøyene og arbeidsflytene som applikasjonen er avhengig av. Med egne PyTorch-backender blir den alternative brikken et mer direkte mål for utviklerne, i stedet for et helt separat utviklingsmiljø.9
10
TorchNeuron støtter eager-kjøring, som kan være nyttig i forskning og feilsøking, og torch.compile for kompilert kjøring. På Trainium2 og Trainium3 kan utviklere også lage egne kjerner med Neuron Kernel Interface.9 AWS beskriver dessuten TorchNeuron som en vanlig PyTorch-enhet som velges med
neuron.28
TorchTPU har ifølge Googles dokumentasjon operatorfusjon i eager-modus, integrasjon med torch.compile, støtte for dynamiske formgrenser og API-er for egne kjerner.17 Tanken er at utviklere skal kunne arbeide med og optimalisere TPU-kjøring i PyTorch, i stedet for å måtte forlate rammeverket.
Dette er ingen garanti for at alt fungerer
«Små endringer» betyr ikke at alt er kompatibelt. En backend må støtte operasjonene og arbeidsflytene modellen faktisk bruker. Dokumentasjonen beskriver funksjonene, men fastslår ikke at enhver PyTorch-modell eller tredjepartskomponent kjører uten tilpasning.17
28
Portabilitet er ikke det samme som lik ytelse. TorchTPU har blant annet operatorfusjon og kompilatorfunksjoner, noe som viser at optimalisering fortsatt er en del av arbeidet med backend-en.17 Kildene gir ingen direkte sammenlignbare målinger som viser at TorchTPU eller TorchNeuron matcher Nvidia-GPU-er på tvers av ulike arbeidsbelastninger.
Håndteringen av dynamiske former varierer. TorchTPU bruker det Google kaller «bounded dynamism»: De dynamiske dimensjonene får faste øvre grenser ved kompilering, mens de faktiske størrelsene kan variere under kjøring.18 Det betyr ikke at alle arbeidsbelastninger med dynamiske former fungerer uten justering. Utviklere bør sjekke kravene for sin egen modell og kjøremåte, og ikke anta at TPU og Trainium oppfører seg likt.
En viktig endring: maskinvaren blir et valg i PyTorch
Den strategiske endringen er ikke at Google eller Amazon har fjernet alle grunnene til å bruke Nvidia-GPU-er. Den er at PyTorch-utviklere nå har mer direkte programvareveier til Googles TPU-er og AWS Trainium, samtidig som de kan fortsette å bruke rammeverket de kjenner.4
9
10
For team som vurderer å bytte, er de sentrale spørsmålene fortsatt konkrete: Støtter backend-en operasjonene og bibliotekene applikasjonen trenger? Hvor mye kode må tilpasses? Og hvordan blir ytelsen på den aktuelle brikken? TorchTPU og TorchNeuron senker den første terskelen – å få PyTorch-kode over på en alternativ brikke – men resten må testes i praksis.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "PyTorch får nye veier til Googles og Amazons AI-brikker"?
TorchTPU er Googles åpne PyTorch backend for TPU er, utviklet i samarbeid med Meta og gjort tilgjengelig 20.
What are the key points to validate first?
TorchTPU er Googles åpne PyTorch backend for TPU er, utviklet i samarbeid med Meta og gjort tilgjengelig 20. Amazon kunngjorde TorchNeuron 19. oktober.
What should I do next in practice?
Verktøyene kan redusere behovet for å skrive om kode, men kompatibilitet og ytelse må fortsatt vurderes for hver modell og arbeidsflyt.[17][28]