Multiverse Computing 與高通聯手打造高效能 AI 模型 Dragonfly 加速器效能飆升 93%

機密金融文件 RAG 聊天機器人：

• 反應速度最高提升 35%
• 吞吐量最高提升 54%
• 記憶體使用量最高減少 45%
• 功耗最高降低 14%
• 準確度完全不受影響

針對醫療使用案例，這項結果已獲得多家媒體獨立驗證，確認了 93% 的反應速度提升、45% 的記憶體節省以及 21% 的功耗降低 。Multiverse Computing 指出，若直接在新一代的 Dragonfly AI200/AI250 加速器上運行，預期能獲得更優異的表現 。

運作原理

Multiverse Computing 在 AI 模型部署前進行優化，縮小每個模型所需的運算與記憶體空間。這能在現有硬體上釋放更多餘裕，讓資料中心營運商無需添購新加速器或擴充基礎設施，即可服務更多推論請求或同時運行更多模型 。

產業的廣泛轉向

這項合作反映了資料中心產業正經歷一場根本性的轉變，朝向 效率優先的 AI 基礎設施 邁進。以下是此轉變的幾個關鍵信號：

• 高通效率至上的 DNA：高通在行動裝置與物聯網領域建立了領導地位，這些領域必須在嚴格的功耗與散熱限制下最大化效能——這些原則現在直接被應用於 AI 資料中心 。
• 硬體層級的創新：高通 Dragonfly AI250 引入了高頻寬計算（High Bandwidth Compute, HBC）Gen 1，每張卡提供 133 TB/s 的有效記憶體頻寬（是 AI200 的 18 倍），直接解決了導致 AI 成本與能源浪費的推論記憶體瓶頸 。
• 在不等比增加成本的前提下擴展：隨著 AI 應用的加速普及，營運商需要在不等比增加硬體、能源與成本的情況下擴展部署。結合高效率硬體與優化後的模型，提供了一條可行的實踐路徑 。
• 業界驗證：兩家公司都明確將此次合作定位為實現「大規模的突破性效能、成本與能源效率提升」，高通副總裁 Dino Flore 更指出，「隨著 AI 在企業與雲端基礎設施中的採用加速，客戶需要能夠提供高效能且更具效率的解決方案」。

這項合作是業界從「更多 GPU」思維，轉向 每瓦效能 與 總體擁有成本（TCO） 導向的具體實例，軟硬體共同優化已成為可持續 AI 擴展的主要手段。