Taalas 的技術直擊 AI 推理的核心瓶頸。在傳統 GPU 架構中,AI 模型的「權重」(定義模型行為的數值參數)必須不斷從高頻寬記憶體載入運算單元。Taalas 則在晶片製造階段,直接將這些權重蝕刻在電晶體的佈局之中,徹底省去了載入的步驟 。
正如 Taalas 所描述的:「模型就是晶片。」該公司將這些處理器稱為「Model Hardcore」或「模型專用積體電路」(MSIC)——一種在製造時就將模型的權重與數據流固化在電路上的客製化晶片 。
其首款測試晶片 HC1,採用台積電 N6 製程,裸晶尺寸達 815 mm²,內含約 530 億顆電晶體。它專為 Meta 的 Llama 3.1-8B 模型設計,權重儲存在基於遮罩式唯讀記憶體(mask-ROM)的陣列中,而非外部 HBM 或 DRAM。KV 快取與微調適配器則位於晶片上的 SRAM 。
Taalas 已展示 HC1 達到 每用戶每秒 17,000 個 token 的推理速度——約為同等級 GPU 配置的 10 倍,同時成本降低 20 倍,功耗減少約 10 倍 。
代價十分明顯:一顆 Taalas 晶片只能執行一個模型。要更換模型,就必須更換晶片。但 Taalas 表示,其自動化流程能將一個從未見過的模型,在數週內轉化為可量產的晶片設計,而台積電生產一顆客製化晶片約需兩個月 。
根據 AMD 官方新聞稿,該公司計劃將 Taalas 的技術整合至其整個 AI 平台,以實現「突破性的推理性能與效率」。具體做法包括:將 Taalas 的專用推理加速器與 AMD Instinct GPU、EPYC CPU、ROCm 軟體以及 Helios 機架級系統結合成系統級解決方案 。
其設想的工作流程是一種混合架構:AMD 打算將推理的「預填充階段」(提示詞處理,運算密集度高)交由 Instinct GPU 執行,然後再將「生成 token 的階段」交給 Taalas 加速器,充分發揮其模型專用架構的吞吐量優勢 。
Taalas 的共同創辦人、前 Tenstorrent 執行長 Ljubisa Bajic(他本人也是 AMD 前高管)以及 Taalas 團隊將加入 AMD,隸屬於 Vamsi Boppana 領導的 AI 組織 。
Taalas 並非單一個案。它是接連被美國企業收購的加拿大半導體新創隊伍中的最新成員,其他還包括 Hyperlume、Untether AI 以及晶片領域相關的 CentML 。
加拿大半導體理事會 的常務董事 Paul Slaby 形容這起收購是對加拿大 AI 晶片人才的「真正信任投票」。「AMD 不會隨便收購一個像 Taalas 這樣的團隊,除非這些人都是世界頂尖的,」Slaby 告訴 BetaKit 。但他同時警告,這筆交易凸顯了加拿大在留住最有前途的半導體公司及其內部開發的智慧財產權方面,正面臨嚴峻挑戰 。
該理事會多次指出,如果缺乏更好的早期資本與國內的規模化發展路徑,加拿大將會持續看到本土晶片新創——以及它們背後的人才——流向美國 。一份 2025 年的報告將人才短缺列為加拿大半導體產業成長的首要障礙 。此外,超過一半投資於加拿大新創的創投資金來自美國,這使得美國投資者對哪些加拿大創意能存活、哪些會被收購,擁有過大的影響力 。
雙方均 未公開 此交易的財務條款 。該交易尚待慣例的成交條件與監管批准 。