Ora Computingのソフトウェアは、情報理論に基づくアプローチを用いて、大規模なAI基盤モデルを推論用に縮小します。つまり、出力品質を維持しながら、モデルを数学的に再構築して冗長性を除去する手法です。同社および投資家が公表する主な性能は以下の通りです。
圧縮モデルは必要な計算リソースが少ないため、Ora社の技術はエネルギー消費の削減と二酸化炭素排出量の低減に直接つながると同社は説明しています。同社の試算では、市場浸透率1%で、年間5万トン以上のCO₂削減効果が見込まれるとしています
。
これは、AIモデルのライフタイムエネルギー使用量の90%以上を推論が占めるという業界全体のコンセンサスと一致しており、圧縮は持続可能性の観点から強力な手段となります。2025年に学術誌『PMC』に掲載された研究では、BERTサイズのモデルにプルーニングや蒸留などのモデル圧縮技術を適用した結果、エネルギー消費が32~48%削減され、精度は95%以上を維持したことが示されています
。ただし、Ora社の具体的なCO₂削減量は、「推定値」として提示されており、実測値ではありません
。
同社の公式サイトでは現在、エッジデバイス、オンプレミスサーバー、クラウドインフラストラクチャ向けに、モデルを「数ヶ月ではなく数時間」で適合させる自動LLM圧縮サービスを宣伝しており、メモリフットプリントを最大70%削減し、GPUコストを50%以上削減できると主張しています。