Multiverse Computing 聯手 Qualcomm：Dragonfly 加速器上 AI 模型速度快咗 93%

機密金融文件 RAG 聊天機械人：

• 回應時間快咗最多 35%
• 吞吐量高咗最多 54%
• 記憶體用量減少最多 45%
• 功耗降低最多 14%
• 準確度完全無損失

喺醫療案例度，多個媒體獨立核實咗結果，確認 93% 更快回應時間、45% 記憶體節省同 21% 功耗降低 。Multiverse Computing 指出，直接喺更新一代嘅 Dragonfly AI200/AI250 加速器上運行，預計效果會更加突出 。

點樣做到？

Multiverse Computing 嘅做法係喺部署 AI 模型之前就壓縮佢哋，縮細每個模型所需嘅運算同記憶體。咁做可以喺現有硬件上騰出更多空間，等數據中心營運商可以同時處理更多推理請求或者運行更多模型，而唔使額外買新加速器或者擴充基礎設施 。

數據中心業界嘅大轉向

呢次合作反映咗數據中心業界一個根本性嘅轉變——由「一味加 GPU」變為 「效率為先」嘅 AI 基建思維。以下係幾個關鍵信號：

• Qualcomm 嘅效率基因：Qualcomm 喺手機同物聯網領域建立咗領導地位，嗰啲領域嘅核心係喺嚴格嘅功耗同散熱限制下追求極致性能——呢啲原則而家直接應用喺 AI 數據中心 。
• 硬件層面嘅創新：Qualcomm Dragonfly AI250 引入咗 High Bandwidth Compute (HBC) Gen 1，每張卡提供 133 TB/s 嘅有效記憶體頻寬（比 AI200 多 18 倍），直接針對 AI 推理嘅記憶體瓶頸，呢個瓶頸正正係推高 AI 成本同能源浪費嘅主因 。
• 擴展但唔使比例增加成本：隨住 AI 應用加速普及，營運商需要喺唔使同步增加硬件、能源同成本嘅情況下擴展部署。將高效能硬件同優化模型結合，正正提供咗一條可行嘅路徑 。
• 業界認證：兩間公司都將呢次合作定位為「喺規模上實現性能、成本同能源效率嘅突破性改進」，Qualcomm 嘅 Dino Flore 仲話：「隨住 AI 喺企業同雲端基建加速普及，客戶需要嘅係高性能同時更高效率嘅解決方案。」

呢次夥伴關係係業界由「一味加 GPU」思維轉向 「每瓦性能」 同 「總擁有成本」 思維嘅具體例子，軟硬件協同優化將會係可持續 AI 擴展嘅主要手段。