Open3D-PIMC: Et felles programvarelag for nye 3D-AI-brikker

Tsingway og Beijing Academy of Artificial Intelligence (BAAI) har lansert Open3D-PIMC som åpen kildekode: en programmeringsmodell og et programvarerammeverk for nye tredimensjonale beregningsbrikker. Løsningen inngår i FlagOS-stakken og er ment å gi utviklere et felles grensesnitt mot heterogen AI-maskinvare, fremfor at hver akseleratorleverandør krever sin egen programvarestakk. 1

Hvorfor dette kan være viktig

Nye AI-akseleratorer kombinerer i stadig større grad compute-in-memory, chiplets og rekonfigurerbar logikk. Ideen er å redusere avstanden data må flyttes mellom minne og beregning. Det kan i teorien øke den effektive båndbredden og redusere energiforbruket knyttet til dataoverføring. 1

Men maskinvaremangfoldet skaper også et programvareproblem: Arkitekturer kan ha ulike instruksjonssett, minneegenskaper og kjøremodeller. Uten et felles lag må utviklere ofte porte og optimalisere den samme arbeidslasten på nytt for hver enkelt brikke.

Open3D-PIMC er laget for å motvirke denne fragmenteringen. Målet er å erstatte modellen «én brikke, én programvarestakk» med en mer samlet programmeringstilnærming for 3D-beregningsmaskinvare. 1

Slik er modellen tenkt å fungere

Utvikleren skal i hovedsak beskrive to deler av arbeidslasten:

• Datadistribusjon og dataoppsett – hvor data skal ligge, og hvordan de skal organiseres.
• Oppdeling av oppgaver – hvordan arbeidet skal fordeles på tilgjengelige beregningsressurser.

Open3D-PIMC skal deretter tilpasse og optimalisere beskrivelsen for den aktuelle enheten. Maskinvarespesifikke instruksjonssett og mikroarkitektoniske egenskaper kan ligge i programtillegg. Dermed kan brikkeprodusenter beholde proprietære detaljer, samtidig som utviklere møter et mer ensartet grensesnitt. 1

I prinsippet kan denne oppdelingen gjøre det enklere å flytte arbeidslaster til nye akseleratorer. I praksis avgjøres både ytelse og portabilitet av kvaliteten på programtilleggene og kompilatorens bakender.

En del av FlagOS

BAAI leder FlagOS, et åpent infrastrukturprosjekt for heterogen AI-beregning. FlagOS er presentert som et mellomliggende programvarelag som skal gjøre store AI-modeller anvendelige på tvers av ulike underliggende AI-brikker. 35

Open3D-PIMC utvider denne retningen til 3D-beregningsbrikker. Det overordnede FlagOS-målet beskrives som «utvikle én gang, kjør på mange brikker» – på tvers av GPU-er, NPU-er, GPGPU-er, DSA-er, RISC-V-baserte AI-enheter og Arm-baserte arkitekturer. 1

Ifølge FlagOS-materiale har økosystemet tilpasset mer enn 30 AI-brikker fra over 20 brikkeprodusenter, og skal kunne gjøre nye, vanlige språkmodeller klare på flere brikker i løpet av én dag. Dette er imidlertid påstander på økosystemnivå, ikke uavhengig dokumentasjon på at Open3D-PIMC allerede leverer samme dekning, korrekthet eller ytelse på alle enheter. 1

Tsingways maskinvare og Qwen-demonstrasjonen

Tsingway trekker frem sin andre generasjons rekonfigurerbare prosessor som et maskinvareeksempel i kategorien rammeverket retter seg mot. Den kombinerer 3D-integrasjon av beregning i minnet, chiplet-pakking og rekonfigurerbar databehandling. BAAI presenterer på sin side Open3D-PIMC som del av arbeidet med et åpent kompilatorgrunnlag for 3D-beregningsbrikker. 1

Rapporteringen om lanseringen opplyser også at FlagOS i august 2026 gjennomførte verifisering av tilpasning samme dag som Alibabas Qwen3.8-2.4T-A95B-modell ble lansert, på ni AI-brikkeplattformer. Qwen3.8-2.4T-A95B er en modell med åpne vekter og en «mixture-of-experts»-arkitektur, med 2,4 billioner parametere totalt og 95 milliarder aktive parametere under inferens. 118

Dette er relevant som tegn på at FlagOS arbeider for rask oppstart av modeller på flere plattformer. Det er derimot ikke i seg selv en reproduserbar referanse måling av Open3D-PIMCs kompilatorportabilitet, forsinkelse, energieffektivitet eller driftsstabilitet på tvers av 3D-maskinvare.

Hva er bekreftet – og hva gjenstår?

Lanseringen bekrefter at Open3D-PIMC er publisert som åpen kildekode, og at utviklerne forsøker å etablere en felles abstraksjon for en ny klasse AI-akseleratorer. 1

Sentrale spørsmål er fortsatt ubesvart:

• Om brikkeprodusenter utover de første deltakerne vil levere og vedlikeholde programtillegg som holder produksjonskvalitet.
• Om applikasjoner kan beholde konkurransedyktig ytelse når de flyttes mellom vesentlig ulike arkitekturer.
• Hvordan verktøyene fungerer til feilsøking, feilhåndtering, profilering og langsiktig vedlikehold.
• Om uavhengige og reproduserbare resultater kan dokumentere korrekthet, gjennomstrømning, forsinkelse og energibruk på tvers av leverandører.

Utviklerne har sagt at de vil fortsette arbeidet med standardisering, støtte for flere leverandører og utviklerverktøy. Nye optimaliseringsresultater for 3D-brikker er planlagt i fjerde kvartal 2026. 1

Kort sagt

Open3D-PIMC bør foreløpig forstås som et åpent inngangspunkt og et foreslått felles kompilator- og rammeverkslag for 3D-AI-maskinvare. Tanken er enkel: Utvikleren beskriver arbeidslasten på et høyere nivå, mens leverandørens programtillegg håndterer den maskinvarespesifikke kompleksiteten under.

Ambisjonen er viktig for akseleratorer basert på compute-in-memory og chiplets. Men en åpen kildekode-lansering og brede påstander om økosystemet er ikke det samme som en moden, uavhengig validert løsning for flere leverandører. Det avgjørende blir varige eksterne bidrag og åpne referansetester på reelt forskjellige brikker. 1