Taalas的技术路线直击AI推理中的根本瓶颈。在传统GPU方案中,AI模型的权重(即定义模型行为的数值参数)必须在高带宽内存和计算单元之间不断来回搬运。Taalas则彻底消除了这一搬运过程——它在芯片制造阶段就直接将权重蚀刻在晶体管布局中。
用Taalas自己的话说:「模型即芯片。」该公司将这些处理器称为「Model Hardcore」或模型专用集成电路(MSIC)——这些定制芯片不是在运行时加载权重,而是将模型的权重和数据流直接铸入芯片的布线之中。
Taalas的首款测试芯片HC1采用台积电N6工艺制造,晶粒面积815平方毫米,拥有约530亿个晶体管。该芯片专为Meta的Llama 3.1-8B模型设计,权重存储在掩模ROM阵列中,而非外部HBM或DRAM。KV缓存和微调适配器则位于片上SRAM中。
Taalas展示了HC1的推理能力:每用户每秒高达17000个token——约为可比GPU方案的10倍——成本仅为后者的20分之一,功耗也降低约10倍。代价也十分明显:一颗Taalas芯片只能运行一个模型,切换模型就需要更换芯片。不过Taalas表示,其自动化流程可以在数周内将从未见过的模型转化为完整芯片设计,台积电约两个月即可生产出定制化芯片。
AMD官方新闻稿表示,将把Taalas的技术整合到其整个AI平台中,以实现「突破性的推理性能和效率」。具体方案包括:将Taalas的专业推理加速器与AMD Instinct GPU、EPYC CPU、ROCm软件以及Helios机架级系统相结合,形成系统级解决方案。
预设的工作流程是一种混合方案:AMD计划将推理的预填充阶段(提示处理,算力需求高)交由Instinct GPU处理,然后将token生成阶段交给Taalas加速器,后者模型专用的架构可最大化吞吐量。
Taalas联合创始人兼前Tenstorrent CEO Ljubisa Bajic——本人也是AMD前高管——以及Taalas团队将加入AMD,归属于Vamsi Boppana领导的AI部门。
Taalas已成为被美国公司收购的最新一家加拿大半导体初创公司,此前已有Hyperlume、Untether AI以及芯片相关领域公司CentML。这一模式已引起行业观察者和政策制定者的关注。
加拿大半导体理事会常务董事Paul Slaby称此次收购「是对加拿大AI芯片人才的真实认可」。Slaby告诉BetaKit:「AMD不会收购一个不够优秀的团队,Taalas的成员绝对是世界级的。」但他同时警告,这笔交易再次暴露了加拿大在留住本土最有前景的半导体公司及其开发的知识产权方面的困境。
该理事会多次指出,如果没有更好的早期资本和国内规模化发展路径,加拿大将继续看到本土芯片初创公司及其人才流向美国。2025年该理事会发布的一份报告显示,人才短缺是加拿大半导体行业增长的首要障碍。超过一半投资于加拿大初创公司的风险资本来自美国,这意味着美国投资者对哪些加拿大创意能存活、哪些会被收购拥有不成比例的影响力。
交易的财务条款未披露。该交易尚需满足常规交割条件和监管审批。