AMD收購Taalas：直接將AI模型「燒錄」進晶片，推論速度狂飆48倍

48倍加速的祕密：消滅記憶體瓶頸

Taalas要解決的核心問題是「記憶體牆」——所有傳統GPU（包括Nvidia的產品）絕大部分的時間與能量都花在將AI模型權重從高頻寬記憶體（HBM）搬運到運算核心。這個資料移動過程限制了推論吞吐量並浪費大量電力。

Taalas的解決方案是模型專用積體電路（MSIC）。該公司在製造過程中，直接將模型的資料流架構以及數值權重硬接線在晶片的邏輯層與金屬層中。整個過程中無須從記憶體載入任何權重，徹底消除了這個瓶頸。

速度的提升極為驚人。Taalas採用台積電6奈米製程製造的HC1測試晶片，在2026年2月運行Meta的Llama 3.1 8B模型時達到每秒16,960個token——比同等級的Nvidia GPU推論速度快上48倍。部分來源指出，根據不同的Nvidia基準，最高可達73倍。

關鍵取捨：天生缺乏靈活性

由於權重在出廠時就已物理性地燒錄在矽晶圓上，每一顆Taalas晶片只能運行當初為其製造的那一個特定模型。你無法將其他模型載入這顆晶片。

不過，Taalas開發了一套工具鏈來緩解這個限制。在一顆大約100層的晶片堆疊中，它只會最終確定最頂層的兩層金屬層，這使得為新模型進行光罩設計（tape out）的週期只需要大約兩個月。底層的晶圓基礎設計保持不變，因此重新設計的速度遠比傳統ASIC開發要快。

AMD的分離式架構藍圖

AMD計劃將Taalas的MSIC晶片整合到一個分離式、異構的運算架構中，與其Instinct GPU以及Helios機櫃級系統並存。

在這樣的設計中，通用型的Instinct GPU負責模型訓練與需要靈活性的推論工作負載，而Taalas晶片則作為高吞吐量、低延遲的專用推論加速器，專門處理需求量最大的模型。Helios平台則透過統一的機櫃級網路將它們連接起來。

這個方法讓AMD能為客戶提供分層級的推論解決方案：靈活的GPU處理多樣化的工作負載，而超高效的MSIC則服務於固定、高流量的模型。

財務與策略背景

交易金額並未公開。這次收購是AMD一系列重大併購的一部分，包括2024年7月以49億美元收購ZT Systems，以及2024年8月以6.65億美元收購Silo AI。

在競爭方面，這筆交易使AMD與Nvidia直接對峙。Nvidia在2026年稍早曾宣布與Groq達成價值200億美元的授權協議，獲得了Groq LPU推論架構的使用權。AMD押注的是，Taalas的模型專用硬接線技術，能夠在固定、高流量的推論工作負載上提供更好的每瓦效能。

Taalas的創立與歷史

Taalas由Ljubisa Bajic（前AI晶片新創Tenstorrent的執行長）以及一群包括前AMD工程師的團隊，於2023年在多倫多創立。

在被收購前，該公司從Eclipse Ventures、Makers Fund、Radical Ventures等投資者手中募集了2.19億美元的風險投資。

它於2026年2月展示了HC1晶片，在運行Llama 3.1 8B模型時達到了每秒16,960個token的基準測試成績，也因此引起了AMD的注意。

總結

AMD收購Taalas，代表它押注AI推論的未來不在於更快的通用GPU，而在於為了處理最重要的模型而犧牲靈活性、追求極致效率的專用晶片。透過將Taalas的MSIC與Instinct GPU配對，並整合到分離式架構中，AMD正在打造一個既能處理多樣化模型的長尾需求，又能應對最受歡迎模型高流量負載的系統——這直接挑戰了Nvidia以GPU為中心的推論堆疊。