奧地利AI壓縮技術新創 Ora Computing 獲350萬歐元種子輪 號稱模型縮小80%

壓縮技術有幾厲害？

根據 Ora Computing 同投資者公布嘅資料，佢哋嘅技術有幾個關鍵賣點 ：

• 體積縮小高達80%：模型嘅記憶體佔用可以大幅減少 。
• 推論速度快4倍：壓縮咗嘅模型喺同一硬件上運行速度顯著提升 。
• 準確度損失僅0至5%：壓縮同準確度之間嘅取捨非常細微 。
• 硬件通用：無論係CPU、GPU定係邊緣運算晶片，唔需要改動基礎設施或者重新訓練模型 。
• 唔使重新訓練：可以直接嵌入標準嘅推論框架使用 。
• 連續壓縮曲線：有別於一般「揀一個壓縮級別」嘅工具，Ora嘅演算法可以提供完整嘅「大小－準確度」取捨曲線，讓客戶根據自己嘅硬件同成本限制做最佳化 。
• 已喺700億參數模型上驗證：公司話佢哋用咗幾個鐘頭同唔使1000美元嘅運算成本，就壓縮咗一個700億參數嘅模型，業界類似嘅工作通常要花幾十萬美元 。

成本、能源同碳排點樣慳？

因為壓縮咗嘅模型需要嘅運算力減少，Ora 表示呢項技術直接轉化為更低嘅能源消耗同碳排放 。公司估計，如果市場滲透率達到1%，每年就可以減少超過5萬噸嘅二氧化碳排放 。

呢個講法同業界普遍認知一致——有研究指出，AI模型部署後嘅推論階段佔咗整個生命周期超過90%嘅能源使用，所以壓縮技術的確係推動可持續發展嘅有力槓桿 。一份2025年嘅學術研究發現，對BERT規模嘅模型應用剪枝同蒸餾等壓縮技術，可以減少32至48%嘅能源消耗，同時保持95%以上嘅準確度 。不過要留意，Ora 嘅具體二氧化碳減排估計只係基於某個基準滲透率嘅「估算」，而唔係實際量度出嚟嘅結果 。

資金點用？

Ora 計劃將呢筆種子資金用喺三個主要方向 ：

1. 擴充團隊——增加工程同商業方面嘅人手。
2. 擴展壓縮技術到更大嘅前沿模型——超越現有能力，壓縮下一代最先進嘅模型。
3. 推出商業產品——目標係雲端推論服務供應商同埋喺邊緣部署AI嘅公司（例如汽車、工業設備等）。

公司官網已經開始推廣自動化嘅大型語言模型壓縮服務，聲稱可以「喺幾小時內，唔係幾個月」將模型放到邊緣設備、內部伺服器或者雲端基建上運行，並將記憶體佔用減少高達70%，GPU開支減低超過50% 。

資料來源可信度說明

呢篇文章嘅主要來源係 Greencode Ventures 官方網站發布嘅詳細公告 。其他媒體包括 The Recursive 、IT Boltwise 、Vestbee 、tech.eu 同 Fundup.ai 都有跟進報道，報導嘅融資細節、壓縮數字同資金用途都一致。不過要留意，Ora 嘅具體二氧化碳減排估算未有獨立第三方驗證，公司自己都標明只係「估算」而唔係量度結果 。