XPeng og Banma vil kjøre stor KI-modell i bilen – med skyen som støtte

XPeng og Banma har presentert en KI-løsning for bilkupeer som skal kunne kjøre modeller i 30B-klassen direkte i bilen. Løsningen kombinerer XPengs Turing-brikke, oppgitt til opptil 750 TOPS regnekraft per brikke, med Banmas multimodale AutoOmni-modell. Tanken er at bilen behandler oppgaver lokalt først, med nettskyen som støtte. Foreløpig har selskapene ikke oppgitt hvilken produksjonsbil som skal få systemet, eller når det eventuelt blir lansert. 61821

Dette bidrar XPeng og Banma med

XPeng står for Turing-brikken og bilens beregningsplattform, mens Banma bidrar med AutoOmni-modellen for bilkupeer. Ifølge omtalen er løsningen laget for samtaler med flere oppfølgingsspørsmål, samspill mellom ulike typer informasjon, spørsmål og svar uten nettilkobling og planlegging av oppgaver. 1821

Samarbeidet inngår i en bredere satsing fra XPeng på å selge teknologi til andre bilprodusenter. Reuters har meldt at selskapet vil tilby blant annet brikker og kupe- og førerstøttesystemer til andre bilmerker. Banma er en leverandør av løsninger for smartbiler, støttet av Alibaba Group og SAIC Motor. 15

«Lokalt først, skyen som støtte» – hva betyr det?

Med denne tilnærmingen kan enkelte oppgaver behandles i bilen i stedet for å sendes til en server. Blant funksjonene som er nevnt, er spørsmål og svar uten nett. Nettskyen skal fortsatt kunne brukes til enkelte behov som oppstår sjeldnere. Lokale funksjoner kan dermed være mindre avhengige av internett, og slipper å vente på at data skal sendes fram og tilbake over nettet. 1821

Dette er mulige fordeler ved måten systemet er bygget på, ikke dokumenterte testresultater. Det foreligger ingen offentliggjorte målinger av responstid, ingen detaljer om hvordan data fra kupeen håndteres, og ingen direkte sammenligning med bestemte KI-modeller i 4B- eller 7B-klassen.

Et høyere antall parametere betyr heller ikke i seg selv at en modell er raskere, flinkere eller bedre for personvernet i en bil. Det må vurderes gjennom testing av den konkrete løsningen, og slike resultater er ikke lagt fram her.

Banmas egen 23B-modell er en separat lansering

Banma har også presentert AutoOmni 2.0-23B-A3B, en egen modell for bruk på enheten, bygget med en såkalt blanding-av-eksperter-arkitektur og oppgitt å ha 23 milliarder parametere. Banma sier at modellen gjør det like godt som skybaserte modeller med 230 milliarder parametere på vanlige oppgaver i bilkupeen, og når 90 prosent av ytelsen til skybaserte modeller av tilsvarende størrelse på mer krevende oppgaver. Dette er selskapets egne sammenligninger, ikke uavhengige tester. Kildene viser heller ikke at 23B-modellen er samme modelloppsett som 30B-løsningen XPeng og Banma har kunngjort sammen. 4

Dette er fortsatt uavklart

Det er kunngjort en felles løsning, men ingen produksjonsbil er navngitt, og det er ikke oppgitt noen tidsplan for utrulling. Kildene bekrefter heller ikke at akkurat denne kupe-løsningen skal brukes i roboter eller andre enheter med fysisk KI.

XPeng har bredere planer om å tilby teknologi til andre bilprodusenter og utvide lisensiering til robotikk og andre fysiske KI-bruksområder. Det er likevel noe annet enn en bekreftet utrulling av den felles løsningen med Banma. 16

Den praktiske prøven blir om bilprodusenter tar systemet i bruk, og hvordan det fungerer i biler på veien. Inntil mer informasjon foreligger, beskriver 30B-tallet og lokal behandling først en kunngjort kapasitet og en valgt arkitektur – ikke en dokumentert fordel over mindre modeller for bilkupeer.