Google HEIR: Open source-kompilatorn som låter AI arbeta på krypterad data

Vad HEIR gör för privat AI

HEIR sänker tröskeln för att använda fullt homomorf kryptering (FHE) för maskininlärningsslutledning. En utvecklare kan ta en vanlig tränad modell, köra den genom HEIR:s kompileringspass och få en körbar fil som arbetar på chiffertext. Servern ser aldrig indata i klartext eller modellens utdata, vilket ger kryptografiskt säker integritet för användardata . HEIR:s flerskiktade IR-design hanterar automatiskt uppgifter som layout av chiffertextdata ("packning"), parameterval och aritmetisering . Projektet syftar till att möjliggöra interoperabilitet för FHE-program över olika krypteringsscheman, kompilatorer och hårdvaruacceleratorer .

De fyra demonstrationsapplikationerna

Google levererade fyra demonstrationsapplikationer kompilerade med HEIR för att visa praktisk användbarhet :

• Deep learning-rekommendator – privata personliga rekommendationer utan att exponera användarhistorik (utvecklad med Belfort Labs, LG och NYU)
• Kreditkortsbedrägeridetektering – upptäcka bedrägliga transaktioner på krypterad finansiell data (med Niobium och hardshell.ai)
• Kitsune nätverksintrångsdetektor – identifiera nätverksattacker utan att avslöja trafikmönster (också med Niobium)
• Röstkommandospotning – detektering av aktiveringsord (t.ex. "Hey Google") på krypterat ljud (med Belfort Labs)

Alla fyra demoerna kördes på enkeltrådade CPU-implementationer . Google har ännu inte publicerat latenssiffror som visar realtidsprestanda för de flesta arbetsbelastningar .

Partners och samarbeten

Hårdvaruacceleratorpartners – Google samarbetar med specialiserade hårdvaruleverantörer för att accelerera FHE-slutledning:

• Belfort – Google är Belforts första betalande kund för krypterad beräkningshårdvara
• Niobium – deras BASALISC ASIC stöder BGV och CKKS via OpenFHE-API:et
• Cornami
• Optalysys

HEIR genererar backend-kod för Belforts FPGA i Rust och Googles TPU via Python-biblioteket jaxite . Den första FPGA-backenden för HEIR presenterades vid FHE.org-konferensen 2026, där booleska och aritmetiska pipelines utvärderades för praktisk FHE-acceleration, med arbete utfört av forskare från KU Leuven och Google .

Akademiska samarbetspartners – Medförfattare på HEIR-artikeln inkluderar forskare från Intel (Alexander Viand), Moreh (Jaeho Choi), KU Leuven, UC Santa Barbara, University of Michigan, Ann Arbor och Tsinghua University . Den bredare akademiska partnerlistan omfattar även Georgia Tech och Carnegie Mellon .

Nuvarande praktiska begränsningar

FHE är fortfarande fundamentalt långsamt. Oberoende riktmärken från mitten av 2026 anger att FHE-beräkningar fortfarande är ungefär 1 000 till 10 000 gånger långsammare än motsvarande beräkning i klartext, beroende på schema och operation . Algoritmförbättringar, kompilatoroptimering, batchningstekniker och dedikerad hårdvaruacceleration har tillsammans gjort FHE-prestanda 1 000 till 10 000 gånger snabbare än implementationer från för fem år sedan, men det finns fortfarande ett stort gap jämfört med okrypterad beräkning för de flesta arbetsbelastningar .

Googles HEIR-demoer kördes på enkeltrådad CPU, och företaget har ännu inte publicerat latenssiffror som visar realtidsprestanda för de flesta arbetsbelastningar . Hårdvaruacceleration från partners som Belfort och Niobium förväntas förbättra hastigheten, men dessa fördelar har ännu inte visats i produktion . En forskningsartikel som utvärderade tre ledande FHE-ramverk – inklusive Googles HEIR – upptäckte 21 buggar på olika nivåer, inklusive 16 logiska fel som ledde till tysta felaktiga beräkningar och 5 krascher .

Globalt är endast tre produktionssystem som använder FHE-teknik offentligt dokumenterade i mitten av 2026 , vilket understryker att HEIR främst är en forsknings- och möjliggörande plattform snarare än ett moget distributionsverktyg. På Hacker News fick tillkännagivandet 275 poäng och kommentatorer beskrev det allmänt som verkliga framsteg men långt ifrån produktionshastighet för allmän AI-slutledning än .