AnswersPublished17 sources
PyTorch meluaskan pilihan daripada GPU Nvidia
Google membuka sumber TorchTPU pada 20 Oktober 2026, sehari selepas Amazon mengumumkan TorchNeuron; versi beta awam TorchNeuron turut bermula pada 20 Oktober. Kedua dua backend ini membolehkan pembangun menjalankan PyTorch pada cip Google atau Amazon dengan kurang perubahan, tetapi bukan jaminan semua model terus se...
Diterbitkan olehDisunting dengan GPT-6 LunaImej dijana dengan GPT Image 2
Research answer
Key takeaways
- Google membuka sumber TorchTPU pada 20 Oktober 2026, sehari selepas Amazon mengumumkan TorchNeuron; versi beta awam TorchNeuron turut bermula pada 20 Oktober.
- Kedua dua backend ini membolehkan pembangun menjalankan PyTorch pada cip Google atau Amazon dengan kurang perubahan, tetapi bukan jaminan semua model terus serasi.
- Kemudahan beralih perkakasan tidak semestinya menjamin prestasi setanding GPU Nvidia; sokongan dan pengoptimuman perlu diuji mengikut beban kerja.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How do Google’s October 20 open-source release of TorchTPU and Amazon’s October 19 announcement and subsequent public beta of TorchNeuron ai. Article summary: TorchTPU and TorchNeuron aim to make Google TPUs and AWS Trainium easier alternatives to Nvidia GPUs by letting developers retain their PyTorch applications and change the execution backend rather than rewrite the model . Topic tags: general, general web, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
Google dan Amazon memperkenalkan laluan natif PyTorch untuk menjalankan model pada cip AI masing-masing: TPU Google dan Trainium AWS. Matlamatnya ialah memudahkan pembangun menukar sasaran perkakasan tanpa perlu membina semula aplikasi menggunakan timbunan perisian yang berbeza.9
10
Ini boleh mengurangkan kerumitan peralihan, tetapi bukan bermakna setiap model akan berjalan tanpa perubahan atau mencapai prestasi setanding GPU Nvidia. Keserasian dan pengoptimuman tetap bergantung pada beban kerja serta backend yang digunakan.17
28
Apa fungsi TorchTPU dan TorchNeuron?
Banyak aplikasi PyTorch selama ini dibangunkan dengan GPU Nvidia sebagai sasaran utama. Kedudukan itu turut mengukuhkan kelebihan ekosistem perisian Nvidia dalam kalangan pembangun.4 TorchTPU dan TorchNeuron cuba mengurangkan halangan perisian tersebut dengan menyediakan laluan terus daripada PyTorch kepada cip pesaing.
- TorchTPU ialah backend natif PyTorch sumber terbuka untuk TPU Google, dibangunkan melalui kerjasama dengan Meta. Google mengumumkannya sebagai sumber terbuka pada 20 Oktober 2026.
10
- TorchNeuron ialah backend natif PyTorch sumber terbuka untuk AWS Trainium. Amazon mengumumkannya pada 19 Oktober dan menyatakan projek itu akan dibuka kepada umum pada 20 Oktober; pengumuman PyTorch menandakan tarikh tersebut sebagai permulaan beta awam.
2
Secara praktikal, pembangun boleh menukar tempat operasi PyTorch dijalankan tanpa menulis semula keseluruhan aplikasi untuk rangka kerja lain. Amazon menyatakan kod sedia ada boleh digunakan dengan perubahan konfigurasi, manakala dokumentasi AWS menerangkan cara memilih peranti neuron untuk TorchNeuron.28
Bagaimana backend ini memudahkan peralihan?
Peralihan perkakasan bukan sekadar mengubah kod model. Tim pembangunan juga perlu memastikan timbunan perisian menyokong operasi dan alatan yang diperlukan aplikasi mereka. Backend natif menjadikan cip alternatif sasaran PyTorch yang lebih langsung, berbanding persekitaran pembangunan berasingan yang memerlukan penyesuaian besar.9
10
TorchNeuron menyokong pelaksanaan eager untuk penyelidikan dan nyahpepijat, torch.compile untuk pelaksanaan terkompilasi, serta kernel tersuai melalui Neuron Kernel Interface pada Trainium2 dan Trainium3.9 Dokumentasi AWS turut menerangkan TorchNeuron sebagai peranti PyTorch biasa yang dipilih menggunakan
neuron.28
Menurut dokumentasi Google, TorchTPU menyediakan penggabungan operator dalam mod eager, integrasi torch.compile, had bagi bentuk dinamik dan API untuk kernel tersuai.17 Ciri-ciri ini bertujuan membolehkan kerja pembangunan dan pengoptimuman dilakukan dalam PyTorch, tanpa perlu meninggalkan rangka kerja itu untuk menggunakan TPU.
Apa yang belum dijamin?
“Perubahan minimum” tidak bermakna semua model serasi secara automatik. Backend perlu menyokong operator dan aliran kerja yang digunakan aplikasi. Dokumentasi yang tersedia menerangkan keupayaan alat ini, tetapi tidak membuktikan setiap model PyTorch atau komponen pihak ketiga boleh dijalankan tanpa penyesuaian.17
28
Mudah alih antara perkakasan tidak semestinya bermaksud prestasinya sama. Ciri penggabungan operator dan pengkompil yang didokumenkan untuk TorchTPU menunjukkan bahawa pengoptimuman khusus backend masih penting.17 Sumber yang tersedia juga tidak memberikan penanda aras perbandingan langsung yang membuktikan TorchTPU atau TorchNeuron setanding dengan GPU Nvidia merentas pelbagai beban kerja.
Sokongan bentuk dinamik berbeza mengikut backend. Dokumentasi TorchTPU menerangkan pendekatan “bounded dynamism”: dimensi mempunyai had atas yang ditetapkan ketika kompilasi, tetapi saiz sebenar boleh berubah semasa pelaksanaan.18 Ini bukan bukti bahawa semua beban kerja dengan bentuk dinamik boleh digunakan tanpa pelarasan. Pembangun perlu menyemak keperluan model dan laluan pelaksanaan masing-masing, bukannya menganggap tingkah laku TPU dan Trainium serupa.
Perubahan besar: perkakasan sebagai pilihan dalam PyTorch
Perkembangan ini tidak menghapuskan semua sebab untuk menggunakan GPU Nvidia. Sebaliknya, pembangun PyTorch kini mempunyai laluan perisian yang lebih langsung untuk mencuba TPU Google dan Trainium AWS sambil terus menggunakan rangka kerja yang sudah mereka kenali.4
9
10
Bagi pasukan yang sedang menilai peralihan, persoalan utamanya masih khusus kepada beban kerja: Adakah backend menyokong operator dan pustaka yang diperlukan? Berapa banyak penyesuaian perlu dibuat? Bagaimanakah prestasinya pada perkakasan sasaran? TorchTPU dan TorchNeuron mengurangkan halangan awal—menjalankan kod PyTorch pada cip alternatif—tetapi persoalan selebihnya masih perlu diuji.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "PyTorch meluaskan pilihan daripada GPU Nvidia"?
Google membuka sumber TorchTPU pada 20 Oktober 2026, sehari selepas Amazon mengumumkan TorchNeuron; versi beta awam TorchNeuron turut bermula pada 20 Oktober.
What are the key points to validate first?
Google membuka sumber TorchTPU pada 20 Oktober 2026, sehari selepas Amazon mengumumkan TorchNeuron; versi beta awam TorchNeuron turut bermula pada 20 Oktober. Kedua dua backend ini membolehkan pembangun menjalankan PyTorch pada cip Google atau Amazon dengan kurang perubahan, tetapi bukan jaminan semua model terus serasi.
What should I do next in practice?
Kemudahan beralih perkakasan tidak semestinya menjamin prestasi setanding GPU Nvidia; sokongan dan pengoptimuman perlu diuji mengikut beban kerja.