Google 的 TorchTPU 和 Amazon 的 TorchNeuron，分別為自家 AI 晶片 Google TPU 和 AWS Trainium 提供原生 PyTorch 後端。簡單講，開發者可以繼續用熟悉的 PyTorch，嘗試把運算改交給另一款晶片，而不必一開始就為整套軟件工具鏈重寫應用程式。910

這確實有望減低轉用硬件的麻煩，但不等於所有模型都能完全照搬，亦不代表效能一定追得上 Nvidia GPU。實際兼容程度和速度，仍要看模型用到哪些功能，以及後端對相關工作流程的支援。1728

兩個後端分別做甚麼？

不少 PyTorch 應用原本以 Nvidia GPU 為主要目標；這種開發習慣，也令 Nvidia 的軟件生態成為重要優勢。4 TorchTPU 和 TorchNeuron 的方向，是替開發者增加通往其他晶片的原生軟件路徑。

• TorchTPU 是 Google 與 Meta 合作開發、面向 Google TPU 的開源原生 PyTorch 後端。Google 於 2026 年 10 月 20 日公布開放使用。10
• TorchNeuron 是面向 AWS Trainium 的開源原生 PyTorch 後端。Amazon 於 10 月 19 日公布計劃，並表示會在翌日開源；PyTorch 的公告則指出，公開測試版於 10 月 20 日推出。29

兩者的實際目標，是讓開發者改變 PyTorch 運算所用的硬件，而毋須把整個應用程式改寫成另一套框架。Amazon 表示，現有程式可透過設定變更在 Trainium 上執行；AWS 文件亦說明，可把 neuron 設為 TorchNeuron 的 PyTorch 裝置。228

轉換硬件，工夫有望少一截

轉換晶片不只是改幾行模型程式碼：軟件堆疊還要支援應用程式用到的運算、函式庫和開發工具。原生後端讓替代晶片更直接成為 PyTorch 的執行選項，減少把它當成另一個獨立開發環境處理的需要。910

TorchNeuron 支援適合研究和除錯的 eager execution、用於編譯執行的 torch.compile，以及在 Trainium2、Trainium3 上透過 Neuron Kernel Interface 編寫自訂 kernel。9 AWS 文件亦說明，TorchNeuron 會把 Trainium 註冊為標準 PyTorch 裝置，開發者可選用 neuron。28

Google 文件列出的 TorchTPU 功能，則包括 eager mode 算子融合、torch.compile 整合、動態形狀界限，以及自訂 kernel API。17 這些工具讓開發者可以繼續留在 PyTorch 生態內開發和調校 TPU 工作負載。

「少改」不等於「乜都唔使改」

支援度仍要逐個應用確認。 後端要能處理模型依賴的算子和工作流程。現有文件列出各自支援的功能，但不足以證明所有 PyTorch 模型或第三方元件都能完全毋須調整便順利運作。1728

硬件可移植，不代表效能可原樣移植。 TorchTPU 提供算子融合和編譯器功能，正說明針對後端調校效能仍然重要。17 現有資料亦沒有提供直接可比的基準測試，證明 TorchTPU 或 TorchNeuron 在各種工作負載上都能媲美 Nvidia GPU。

動態形狀的處理方式要留意。 TorchTPU 文件提到「有界動態性」：編譯時會為動態維度設定上限，而實際維度大小可在執行時改變。18 這並不代表所有涉及動態輸入的工作都毋須修改。開發者應按自己的模型和執行方式，查清楚支援要求，不能假設 TPU 和 Trainium 的行為完全一樣。

重點轉變：在 PyTorch 入面多一個硬件選擇

這次並非 Google 或 Amazon 消除了使用 Nvidia GPU 的所有理由，而是 PyTorch 開發者多了較直接的軟件途徑，可以嘗試 Google TPU 或 AWS Trainium，同時繼續使用熟悉的開發框架。4910

對考慮轉用硬件的團隊來說，仍要逐項實測：後端支不支援應用所需的算子和函式庫？需要改多少程式？在目標晶片上的表現又如何？TorchTPU 和 TorchNeuron 降低了「先讓 PyTorch 程式跑上其他晶片」的門檻，但之後這些問題仍要靠實際測試解答。

Google 的 TorchTPU 和 Amazon 的 TorchNeuron，分別為自家 AI 晶片 Google TPU 和 AWS Trainium 提供原生 PyTorch 後端。簡單講，開發者可以繼續用熟悉的 PyTorch，嘗試把運算改交給另一款晶片，而不必一開始就為整套軟件工具鏈重寫應用程式。910

這確實有望減低轉用硬件的麻煩，但不等於所有模型都能完全照搬，亦不代表效能一定追得上 Nvidia GPU。實際兼容程度和速度，仍要看模型用到哪些功能，以及後端對相關工作流程的支援。1728

兩個後端分別做甚麼？

不少 PyTorch 應用原本以 Nvidia GPU 為主要目標；這種開發習慣，也令 Nvidia 的軟件生態成為重要優勢。4 TorchTPU 和 TorchNeuron 的方向，是替開發者增加通往其他晶片的原生軟件路徑。

• TorchTPU 是 Google 與 Meta 合作開發、面向 Google TPU 的開源原生 PyTorch 後端。Google 於 2026 年 10 月 20 日公布開放使用。10
• TorchNeuron 是面向 AWS Trainium 的開源原生 PyTorch 後端。Amazon 於 10 月 19 日公布計劃，並表示會在翌日開源；PyTorch 的公告則指出，公開測試版於 10 月 20 日推出。29

兩者的實際目標，是讓開發者改變 PyTorch 運算所用的硬件，而毋須把整個應用程式改寫成另一套框架。Amazon 表示，現有程式可透過設定變更在 Trainium 上執行；AWS 文件亦說明，可把 neuron 設為 TorchNeuron 的 PyTorch 裝置。228

轉換硬件，工夫有望少一截

轉換晶片不只是改幾行模型程式碼：軟件堆疊還要支援應用程式用到的運算、函式庫和開發工具。原生後端讓替代晶片更直接成為 PyTorch 的執行選項，減少把它當成另一個獨立開發環境處理的需要。910

TorchNeuron 支援適合研究和除錯的 eager execution、用於編譯執行的 torch.compile，以及在 Trainium2、Trainium3 上透過 Neuron Kernel Interface 編寫自訂 kernel。9 AWS 文件亦說明，TorchNeuron 會把 Trainium 註冊為標準 PyTorch 裝置，開發者可選用 neuron。28

Google 文件列出的 TorchTPU 功能，則包括 eager mode 算子融合、torch.compile 整合、動態形狀界限，以及自訂 kernel API。17 這些工具讓開發者可以繼續留在 PyTorch 生態內開發和調校 TPU 工作負載。

「少改」不等於「乜都唔使改」

支援度仍要逐個應用確認。 後端要能處理模型依賴的算子和工作流程。現有文件列出各自支援的功能，但不足以證明所有 PyTorch 模型或第三方元件都能完全毋須調整便順利運作。1728

硬件可移植，不代表效能可原樣移植。 TorchTPU 提供算子融合和編譯器功能，正說明針對後端調校效能仍然重要。17 現有資料亦沒有提供直接可比的基準測試，證明 TorchTPU 或 TorchNeuron 在各種工作負載上都能媲美 Nvidia GPU。

動態形狀的處理方式要留意。 TorchTPU 文件提到「有界動態性」：編譯時會為動態維度設定上限，而實際維度大小可在執行時改變。18 這並不代表所有涉及動態輸入的工作都毋須修改。開發者應按自己的模型和執行方式，查清楚支援要求，不能假設 TPU 和 Trainium 的行為完全一樣。

重點轉變：在 PyTorch 入面多一個硬件選擇

這次並非 Google 或 Amazon 消除了使用 Nvidia GPU 的所有理由，而是 PyTorch 開發者多了較直接的軟件途徑，可以嘗試 Google TPU 或 AWS Trainium，同時繼續使用熟悉的開發框架。4910

對考慮轉用硬件的團隊來說，仍要逐項實測：後端支不支援應用所需的算子和函式庫？需要改多少程式？在目標晶片上的表現又如何？TorchTPU 和 TorchNeuron 降低了「先讓 PyTorch 程式跑上其他晶片」的門檻，但之後這些問題仍要靠實際測試解答。