Taalas 要解決嘅核心問題係「記憶體瓶頸」——無論 Nvidia 定其他 GPU,絕大部分時間同電力都用咗喺將 AI 模型權重由 HBM(高頻寬記憶體)搬去運算核心。呢段數據移動限制咗推論吞吐量,仲浪費電。
Taalas 嘅解決方案叫模型專用集成電路(MSIC)。佢哋將模型嘅數據流架構同權重數值,直接喺製造過程中蝕刻落晶片嘅邏輯層同金屬層。完全唔使從記憶體 load 權重,成個瓶頸就咁消失咗。
速度結果非常誇張。Taalas 嘅 HC1 測試晶片,用台積電 6nm 製程,喺 2026 年 2 月為 Meta 嘅 Llama 3.1 8B 模型做到每秒 16,960 個 token,比同等級 Nvidia GPU 快最多 48 倍(有啲數據話睇對比基準唔同,可以去到 73 倍)。
因為權重係喺工廠製造時就蝕刻咗落矽晶片,每粒 Taalas 晶片只可以行到佢為嗰個特定模型造嘅版本。你唔可以換第二個模型落去。
不過 Taalas 開發咗一套工具鏈,可以喺大約 100 層晶片疊層中,只係 finalize 最頂兩層金屬層,令到為新模型重新流片只需大約兩個月。底層嘅晶圓設計唔使改,比起傳統 ASIC 開發快好多。
AMD 計劃將 Taalas MSIC 整合到一個鬆散耦合、異構嘅運算架構,同佢哋嘅 Instinct GPU 同 Helios 機架級系統一齊用。
喺呢個設計入面,通用型 Instinct GPU 負責訓練同彈性推論 workload,而 Taalas 晶片就做專用嘅高吞吐量、低延遲推論加速器,專攻需求量最大嘅模型。Helios 平台就將佢哋用統一嘅機架級網絡連埋一齊。
咁樣 AMD 就可以畀客戶一個分層推論方案:靈活嘅 GPU 處理多樣化 workload,超高效率嘅 MSIC 就負責固定、高流量嘅模型。
交易條款冇公開。 今次收購係 AMD 近一年嚟連串大型收購嘅一部分:2024 年 7 月以 49 億美元買咗 ZT Systems,同年 8 月以 6.65 億美元買咗 Silo AI。
喺競爭層面,呢單交易令 AMD 直接挑戰 Nvidia 早前喺 2026 年同 Groq 簽訂嘅 200 億美元授權協議——Nvidia 攞到 Groq 嘅 LPU 推論架構。AMD 嘅賭注係:Taalas 嘅模型專用硬接線技術,喺固定、高流量嘅推論 workload 上,可以做到更好嘅每瓦效能。
Taalas 喺 2023 年於多倫多成立,創辦人係 Ljubisa Bajic(之前係另一間 AI 晶片初創 Tenstorrent 嘅 CEO),團隊仲包括前 AMD 工程師。
公司被收購前總共籌得 2.19 億美元風險投資,投資者包括 Eclipse Ventures、Makers Fund、Radical Ventures 等。
佢哋喺 2026 年 2 月展示咗 HC1 晶片,行 Llama 3.1 8B 做到每秒 16,960 個 token,就係呢個 benchmark 吸引咗 AMD 嘅注意。
AMD 收購 Taalas 嘅賭注係:AI 推論嘅未來唔係喺更快嘅通用 GPU,而係喺專為特定模型設計、犧牲靈活性換取極致效率嘅晶片。將 Taalas MSIC 同 Instinct GPU 配搭喺異構架構入面,AMD 正喺度建立一套系統,可以同時處理長尾嘅多樣模型同高流量嘅熱門模型——直接挑戰 Nvidia 由 GPU 主導嘅推論堆疊。