傳統GPU做AI推論嗰陣,模型嘅權重(weights)——即係定義模型行為嘅數值參數——要不斷喺高頻寬記憶體同運算單元之間來回傳輸,呢個正正係效能樽頸所在。Taalas嘅做法係直頭將權重蝕刻喺晶片嘅電晶體佈局入面,製造嗰陣就已經固定咗,唔使再load嚟load去。
Taalas將呢啲處理器稱為「Model Hardcore」或者模型專用集成電路(MSIC)。佢哋嘅第一粒測試晶片HC1,用台積電N6製程,有大約530億粒電晶體,晶片面積815mm²。呢粒晶片係專為Meta嘅Llama 3.1-8B模型設計,權重儲存在mask-ROM陣列,唔使外置HBM或DRAM;KV快取同微調適配器就放喺晶片內置SRAM。
Taalas聲稱HC1嘅推論速度可以達到每秒17,000個token(每個用戶計),比同等級GPU快大約10倍,成本低20倍,用電量亦少大約10倍。代價就係:一粒晶片只能跑一個模型,想轉模型就要換晶片。但Taalas話佢哋嘅自動化流程可以喺幾星期內將一個未見過嘅模型變成晶片設計,台積電大約兩個月就可以生產到定制晶片。
AMD官方新聞稿表示,會將Taalas嘅技術整合到成個AI平台,達到「突破性嘅推論效能同效率」。具體計劃係將Taalas嘅專用推論加速器同AMD Instinct GPU、EPYC CPU、ROCm軟件同Helios機架系統結合成系統級解決方案。
設想嘅工作流程係混合模式:推論嘅prefill階段(處理提示詞,運算密集度高)由Instinct GPU負責,之後token生成階段就交俾Taalas加速器,呢個時候模型專用架構可以將吞吐量最大化。
Taalas嘅聯合創辦人、前Tenstorrent CEO Ljubisa Bajic(佢自己都係AMD前高層)同成個Taalas團隊會加入AMD,歸入Vamsi Boppana嘅AI部門。
Taalas係最新一間被美國公司收購嘅加拿大半導體初創,之前已經有Hyperlume、Untether AI同CentML等例子。呢個現象引起業界同政策制定者嘅關注。
加拿大半導體委員會常務董事Paul Slaby形容呢次收購係「對加拿大AI晶片人才嘅真正信任投票」,但同時警告呢單交易凸顯咗加拿大留唔住最有前途嘅半導體公司同知識產權嘅問題。委員會已經多次指出,如果唔改善早期資本同本土擴張嘅路徑,加拿大只會繼續見到自己孵出嚟嘅晶片初創同人才流向美國。委員會2025年嘅報告將人才短缺列為加拿大半導體行業增長嘅頭號障礙。現時加拿大初創吸納嘅創投資金超過一半來自美國,令美國投資者對邊啲加拿大創意能夠生存、邊啲會被收購有住不成比例嘅影響力。
雙方都冇披露財務條款。交易有待慣常嘅成交條件同監管批准。