Google 的 TorchTPU 與 Amazon 的 TorchNeuron，都是為自家 AI 晶片打造的原生 PyTorch 後端：前者支援 Google TPU，後者支援 AWS Trainium。兩者的目標，是讓開發者不必為了改用另一種硬體，就把整套應用程式改寫成不同的軟體架構。910

這確實有望降低轉換硬體的阻力，但不代表所有模型都能完全不改程式就順利執行，也不保證效能與 Nvidia GPU 相同。實際相容性與最佳化程度，仍取決於工作負載及所使用的後端。1728

兩項工具各自負責什麼？

許多 PyTorch 應用程式長期以 Nvidia GPU 為主要目標，Nvidia 的軟體生態系也因此在開發者之間具備優勢。4 TorchTPU 與 TorchNeuron 則試圖降低這道軟體門檻，讓 Google 和 Amazon 的晶片成為更直接的 PyTorch 執行選項。

• TorchTPU 是 Google 與 Meta 合作開發、支援 Google TPU 的開源原生 PyTorch 後端。Google 於 2026 年 10 月 20 日開放這項工具。10
• TorchNeuron 是支援 AWS Trainium 的開源原生 PyTorch 後端。Amazon 在 10 月 19 日宣布此工具，並表示將於 10 月 20 日開源；PyTorch 的公告也將 10 月 20 日列為公開測試版啟動日期。29

實際上，這些後端希望讓 PyTorch 運算能改在其他晶片上執行，而不必先把整個應用程式改寫成另一套框架。Amazon 表示，既有程式可透過調整設定來執行；AWS 文件則說明，TorchNeuron 可透過選擇 neuron 裝置使用。228

如何減少移植工作？

更換硬體不只是修改模型程式碼，開發者還得確認軟體堆疊支援應用程式所需的運算操作與工具。原生後端讓不同晶片更直接地成為 PyTorch 的執行目標，降低把新晶片視為一套完全獨立開發環境的必要性。910

TorchNeuron 支援適合研究與除錯的 eager execution（即時執行）、用於編譯執行的 torch.compile，以及在 Trainium2 和 Trainium3 上透過 Neuron Kernel Interface 撰寫自訂核心。AWS 文件也指出，TorchNeuron 會把 Trainium 註冊為標準 PyTorch 裝置，並以 neuron 選取。928

Google 文件列出的 TorchTPU 功能則包括 eager 模式下的運算子融合、torch.compile 整合、動態形狀界限，以及自訂核心 API。17 這些功能的用意，是讓開發者留在 PyTorch 工具鏈中開發及調校 TPU 工作負載，而不必為 TPU 完全轉換框架。

「少改程式」不等於沒有使用限制

降低改寫需求，不代表所有程式都能直接執行。 後端仍須支援應用程式依賴的運算子與工作流程。現有文件說明了各工具的功能，但沒有證明所有 PyTorch 模型或第三方元件都能免調整使用。1728

可移植性也不等於效能可移植。 TorchTPU 提供運算子融合與編譯器功能，本身就反映出效能調校仍是使用後端時的一部分。17 目前提供的來源沒有列出可直接比較的基準測試，足以證明 TorchTPU 或 TorchNeuron 能在各種工作負載上追平 Nvidia GPU。

動態形狀的處理方式也因後端而異。 TorchTPU 文件所稱的「有界動態性」（bounded dynamism），是指動態維度在編譯時設定上限，但實際尺寸可在執行時變動。18 這不代表所有動態形狀工作負載都能免調整運作。開發者仍應確認自己的模型與執行路徑是否符合支援條件，而不是假設 TPU 和 Trainium 的行為完全相同。

PyTorch 開始把硬體選擇變得更直接

這些發布並未消除使用 Nvidia GPU 的所有理由；更明確的變化是，PyTorch 開發者如今多了直接嘗試 Google TPU 和 AWS Trainium 的軟體路徑，不必離開熟悉的框架。4910

對正在評估轉換硬體的團隊來說，關鍵問題仍要回到實際工作負載：後端支援應用程式需要的運算子與函式庫嗎？需要修改多少程式？在目標晶片上的效能表現又如何？TorchTPU 與 TorchNeuron 降低了第一道門檻——讓 PyTorch 程式能在其他晶片上執行——但後續問題仍得實際測試。

Google 的 TorchTPU 與 Amazon 的 TorchNeuron，都是為自家 AI 晶片打造的原生 PyTorch 後端：前者支援 Google TPU，後者支援 AWS Trainium。兩者的目標，是讓開發者不必為了改用另一種硬體，就把整套應用程式改寫成不同的軟體架構。910

這確實有望降低轉換硬體的阻力，但不代表所有模型都能完全不改程式就順利執行，也不保證效能與 Nvidia GPU 相同。實際相容性與最佳化程度，仍取決於工作負載及所使用的後端。1728

兩項工具各自負責什麼？

許多 PyTorch 應用程式長期以 Nvidia GPU 為主要目標，Nvidia 的軟體生態系也因此在開發者之間具備優勢。4 TorchTPU 與 TorchNeuron 則試圖降低這道軟體門檻，讓 Google 和 Amazon 的晶片成為更直接的 PyTorch 執行選項。

• TorchTPU 是 Google 與 Meta 合作開發、支援 Google TPU 的開源原生 PyTorch 後端。Google 於 2026 年 10 月 20 日開放這項工具。10
• TorchNeuron 是支援 AWS Trainium 的開源原生 PyTorch 後端。Amazon 在 10 月 19 日宣布此工具，並表示將於 10 月 20 日開源；PyTorch 的公告也將 10 月 20 日列為公開測試版啟動日期。29

實際上，這些後端希望讓 PyTorch 運算能改在其他晶片上執行，而不必先把整個應用程式改寫成另一套框架。Amazon 表示，既有程式可透過調整設定來執行；AWS 文件則說明，TorchNeuron 可透過選擇 neuron 裝置使用。228

如何減少移植工作？

更換硬體不只是修改模型程式碼，開發者還得確認軟體堆疊支援應用程式所需的運算操作與工具。原生後端讓不同晶片更直接地成為 PyTorch 的執行目標，降低把新晶片視為一套完全獨立開發環境的必要性。910

TorchNeuron 支援適合研究與除錯的 eager execution（即時執行）、用於編譯執行的 torch.compile，以及在 Trainium2 和 Trainium3 上透過 Neuron Kernel Interface 撰寫自訂核心。AWS 文件也指出，TorchNeuron 會把 Trainium 註冊為標準 PyTorch 裝置，並以 neuron 選取。928

Google 文件列出的 TorchTPU 功能則包括 eager 模式下的運算子融合、torch.compile 整合、動態形狀界限，以及自訂核心 API。17 這些功能的用意，是讓開發者留在 PyTorch 工具鏈中開發及調校 TPU 工作負載，而不必為 TPU 完全轉換框架。

「少改程式」不等於沒有使用限制

降低改寫需求，不代表所有程式都能直接執行。 後端仍須支援應用程式依賴的運算子與工作流程。現有文件說明了各工具的功能，但沒有證明所有 PyTorch 模型或第三方元件都能免調整使用。1728

可移植性也不等於效能可移植。 TorchTPU 提供運算子融合與編譯器功能，本身就反映出效能調校仍是使用後端時的一部分。17 目前提供的來源沒有列出可直接比較的基準測試，足以證明 TorchTPU 或 TorchNeuron 能在各種工作負載上追平 Nvidia GPU。

動態形狀的處理方式也因後端而異。 TorchTPU 文件所稱的「有界動態性」（bounded dynamism），是指動態維度在編譯時設定上限，但實際尺寸可在執行時變動。18 這不代表所有動態形狀工作負載都能免調整運作。開發者仍應確認自己的模型與執行路徑是否符合支援條件，而不是假設 TPU 和 Trainium 的行為完全相同。

PyTorch 開始把硬體選擇變得更直接

這些發布並未消除使用 Nvidia GPU 的所有理由；更明確的變化是，PyTorch 開發者如今多了直接嘗試 Google TPU 和 AWS Trainium 的軟體路徑，不必離開熟悉的框架。4910

對正在評估轉換硬體的團隊來說，關鍵問題仍要回到實際工作負載：後端支援應用程式需要的運算子與函式庫嗎？需要修改多少程式？在目標晶片上的效能表現又如何？TorchTPU 與 TorchNeuron 降低了第一道門檻——讓 PyTorch 程式能在其他晶片上執行——但後續問題仍得實際測試。