XPeng og Banma vil køre stor AI-model direkte i bilens cockpit

XPeng og Banma har annonceret en fælles AI-løsning til bilens cockpit, som skal kunne afvikle modeller i 30B-klassen direkte i bilen. Løsningen kombinerer XPengs Turing-chip, der ifølge annonceringen leverer op til 750 TOPS pr. chip, med Banmas AutoOmni-multimodale cockpitmodel. Tanken er, at bilen behandler opgaver lokalt først, mens cloud-tjenester bruges som supplement. 61821

Det er foreløbig en annonceret løsning – ikke en bekræftet funktion i en navngiven produktionsbil. Selskaberne har heller ikke oplyst en lanceringsdato. 61821

Hvad bidrager de to selskaber med?

XPeng står for Turing-platformen til beregning i bilen, mens Banma leverer AutoOmni-modellen til cockpitbrug. Ifølge selskaberne skal systemet understøtte samtaler over flere ture, multimodal interaktion, spørgsmål og svar uden internet samt planlægning af opgaver. 1821

Samarbejdet passer ind i XPengs bredere planer om at sælge teknologi – herunder chips og cockpit-systemer – til andre bilproducenter. Banma beskrives som en leverandør af intelligente billøsninger med Alibaba Group og SAIC Motor i ryggen. 15

Lokal behandling først – men ikke uden skyen

Når opgaver behandles lokalt, behøver understøttede funktioner ikke rutinemæssigt at sende forespørgsler til en server. Det kan betyde, at nogle funktioner virker uden netforbindelse, og at lokale opgaver ikke skal vente på et svar gennem nettet. Cloud-tjenester er fortsat en del af arkitekturen og kan bruges til visse behov, der opstår sjældnere. 1821

Det er mulige fordele ved konstruktionen, ikke dokumenterede testresultater. De tilgængelige oplysninger indeholder ingen målinger af svartid, ingen konkrete detaljer om håndtering af data fra kabinen og ingen direkte sammenligning med cockpitmodeller på eksempelvis 4B eller 7B parametre.

Et højere antal parametre beviser heller ikke i sig selv, at en model er hurtigere, bedre eller mere privat i en bil. Det kræver konkrete test og oplysninger om, hvordan løsningen er implementeret – og de er ikke fremlagt her.

En separat model på 23B parametre

Banma har også præsenteret AutoOmni 2.0-23B-A3B, en særskilt model til lokal kørsel, der bygger på en mixture-of-experts-arkitektur og beskrives som en model på 23 milliarder parametre. Banma oplyser, at den klarer rutineopgaver i cockpittet på niveau med cloudmodeller på 230 milliarder parametre, og at den når 90 procent af sammenlignelige cloudmodellers præstation på komplekse opgaver. Det er selskabets egne sammenligninger, ikke uafhængige testresultater. Kilderne fastslår ikke, at 23B-modellen er den samme konfiguration som 30B-modellen i samarbejdet med XPeng. 4

Hvad mangler stadig at blive afklaret?

Annonceringen beskriver et fælles system, men de tilgængelige oplysninger peger ikke på en bestemt produktionsbil, der skal få løsningen, eller på en tidsplan for udrulning. De bekræfter heller ikke, at cockpit-systemet skal bruges i en robot eller en anden enhed med fysisk AI.

XPeng har bredere planer om at levere teknologi til andre bilproducenter og udvide licensering til blandt andet robotteknologi og andre fysiske AI-anvendelser. Det er dog noget andet end en bekræftet plan om at bruge netop dette cockpit-system i sådanne produkter. 16

Den praktiske prøve bliver, om bilproducenter tager løsningen i brug, og hvordan den fungerer i biler på vejene. Indtil der kommer flere oplysninger, beskriver 30B-tallet og den lokale behandling først den annoncerede kapacitet og tilgang – ikke en dokumenteret fordel over mindre cockpitmodeller.