Vídeňský startup Ora Computing získal 3,5 milionu eur na revoluční kompresi AI modelů

Ora Computing založili výzkumníci v oblasti kvantových počítačů Stefan Sack a Raimel A. Medina, kteří se odštěpili z Institute of Science and Technology Austria (ISTA) . Společnost vystoupila z režimu stealth koncem roku 2025 a své řešení již ověřila u hráčů v automobilovém průmyslu a v sektoru edge křemíku .

Jak kompresní software funguje

Software Ora Computing využívá přístup založený na informační teorii ke zmenšování velkých AI foundation modelů pro inferenci. To znamená, že matematicky restrukturalizuje model, aby odstranil redundanci při zachování kvality výstupu . Mezi klíčová tvrzení společnosti a jejích investorů patří:

• Až 80% zmenšení velikosti: Modely lze dramaticky zmenšit z hlediska paměťové náročnosti .
• Až 4× rychlejší inference: Komprimované modely běží výrazně rychleji na stejném hardwaru .
• Ztráta přesnosti pouze 0–5 %: Kompromis mezi kompresí a přesností je minimální .
• Hardwarová nezávislost: Software funguje napříč různými čipovými architekturami (CPU, GPU, edge křemík) bez potřeby vlastní infrastruktury nebo přetrénování .
• Není potřeba přetrénování: Lze jej přímo nasadit do standardních inferenčních frameworků .
• Kontinuální kompresní křivka: Na rozdíl od binárních nástrojů umožňuje Ora algoritmus spojitě mapovat kompromis mezi velikostí a přesností, což zákazníkům umožňuje optimalizovat pro jejich hardware a nákladové limity .
• Ověřeno na modelu se 70 miliardami parametrů: Společnost uvádí, že zkomprimovala model se 70 miliardami parametrů během několika hodin za méně než 1 000 USD na výpočetní výkon, oproti typickým nákladům v řádu stovek tisíc dolarů .

Dopad na náklady, energii a uhlíkovou stopu

Protože komprimované modely vyžadují méně výpočetního výkonu, Ora uvádí, že se její technologie přímo promítá do nižší spotřeby energie a snížených emisí uhlíku . Společnost odhaduje, že při 1% proniknutí na trh by její technologie mohla ročně eliminovat více než 50 000 tun CO₂ .

To je v souladu s širším průmyslovým konsensem, že inference představuje více než 90 % celoživotní spotřeby energie nasazených AI modelů, což z komprese činí mocný nástroj pro udržitelnost . Studie z roku 2025 v PMC zjistila, že aplikace technik komprese modelů, jako je pruning a destilace, na modely velikosti BERT vedla ke snížení spotřeby energie o 32–48 % při zachování přesnosti nad 95 % . Specifický odhad úspor CO₂ od Ora je však označen jako „odhad