Fractile 的核心技術叫 in‑memory compute(記憶體內運算)。
傳統 AI 加速器(例如 GPU)有一個典型架構:
Fractile 的設計理念係:直接喺資料所在的位置做運算。
主要做法包括:
如果成功,這種架構可以同時改善:
Fractile 這輪 2.2 億美元 B 輪融資由以下投資者領投:
公司計劃將資金用於:
若 Fractile 或類似架構成功,大幅提升推理效率,可能會打開一些新的 AI 應用場景。
新一代 AI 系統會在回答問題前做多步推理、探索多個答案,再驗證結果。
聊天型 AI 的體驗很大程度取決於延遲。
如果 token 生成速度更快,AI 助手可以更接近 即時對話。
AI agent 可能會:
企業如果要部署 AI 客服、Copilot 或 API 服務,就需要:
專門為推理設計的晶片有機會大幅降低營運成本。
Fractile 的理念其實反映一個行業趨勢:
AI 正從「訓練競賽」走向「推理效率競賽」。
不過要從設計到真正量產晶片,難度極高。GPU 生態系統已經非常成熟,要挑戰現有架構並不容易。
另外,公司目前提出的速度與成本優勢,仍然屬於 技術目標而非獨立 benchmark。
即使如此,2.2 億美元的大額融資也說明一件事:
Comments
0 comments