AI in de auto, ook zonder cloud: XPeng en Banma kondigen cockpitplatform aan

XPeng en Banma hebben een gezamenlijke AI-cockpitoplossing aangekondigd die modellen in de klasse van 30 miljard parameters in de auto kan draaien. Daarvoor wordt XPengs Turing-chip gecombineerd met Banma’s multimodale AutoOmni-model. Volgens de aankondiging levert de chip tot 750 TOPS aan rekenkracht. De opzet is ‘eerst op het apparaat, met de cloud als ondersteuning’. Er is nog geen productiemodel genoemd waarin de gezamenlijke oplossing wordt gebruikt, en een introductiedatum ontbreekt. 61821

Wat XPeng en Banma bijdragen

XPeng levert het Turing-computeplatform voor in de auto; Banma brengt zijn AutoOmni-model voor de slimme cockpit in. De bedrijven zeggen dat de oplossing lokaal modellen van de 30B-klasse kan draaien voor onder meer gesprekken met meerdere vervolgvragen, multimodale interactie, offline vraag-en-antwoord en taakplanning. 1821

De aankondiging past in XPengs bredere plannen om technologie ook aan andere autofabrikanten aan te bieden. Reuters meldde dat XPeng zijn chips, cockpitsystemen en andere technologie bij externe automerken wil aanbieden. Banma is een leverancier van slimme-autotechnologie, gesteund door Alibaba Group en SAIC Motor. 15

Wat ‘eerst lokaal, cloud als ondersteuning’ inhoudt

Bij deze aanpak kunnen bepaalde cockpitfuncties in de auto zelf worden verwerkt, in plaats van standaard naar een server te worden gestuurd. Onder de genoemde toepassingen valt offline vraag-en-antwoord; voor sommige minder vaak gebruikte diensten kan de cloud nog steeds worden ingezet. Daardoor zouden ondersteunde functies minder afhankelijk kunnen zijn van een internetverbinding en hoeft lokale verwerking niet op een heen-en-terugverbinding met een server te wachten. 1821

Dat zijn mogelijke voordelen van de opzet, geen gemeten resultaten. De aankondiging bevat geen tests van de reactiesnelheid, geen concrete informatie over de verwerking van gegevens uit de auto en geen vergelijking met specifieke cockpitmodellen met 4 of 7 miljard parameters. Een hoger aantal parameters bewijst op zichzelf niet dat een model sneller, capabeler of privacyvriendelijker is. Daarvoor zijn praktijktests en details over de uitvoering nodig; die zijn niet beschikbaar.

Banma’s aparte model met 23 miljard parameters

Banma kondigde ook AutoOmni 2.0-23B-A3B aan: een afzonderlijk model voor gebruik op het apparaat, gebouwd met een mixture-of-experts-architectuur en beschreven als een model met 23 miljard parameters. Banma zegt dat het bij alledaagse cockpittaken vergelijkbaar presteert met cloudmodellen van 230 miljard parameters. Bij complexere taken zou het 90% halen van de prestaties van cloudmodellen van vergelijkbare omvang. Dit zijn claims van de leverancier, geen onafhankelijk gepubliceerde rechtstreekse vergelijkingen. De beschikbare bronnen maken bovendien niet duidelijk of dit 23B-model dezelfde configuratie is als het 30B-model uit de gezamenlijke oplossing van XPeng en Banma. 4

Wat nog niet vaststaat

De aankondiging gaat over een gezamenlijke oplossing, maar uit de beschikbare berichtgeving blijkt niet in welke productiewagen die komt of wanneer de uitrol begint. Ook is niet bevestigd dat het gezamenlijke cockpitsysteem wordt gebruikt in een robot of een ander apparaat buiten de auto.

XPeng wil zijn technologie breder aan autofabrikanten aanbieden en heeft plannen om licenties uit te breiden naar robotica en andere toepassingen van fysieke AI. Dat zijn bredere plannen, geen bevestiging dat deze specifieke cockpitoplossing daar al wordt ingezet. 16

De praktische proef volgt pas wanneer autofabrikanten de oplossing daadwerkelijk overnemen en de prestaties in auto’s duidelijk worden. Tot die tijd beschrijven de cijfers over 30 miljard parameters en de lokale verwerking vooral de aangekondigde mogelijkheden en ontwerpkeuzes — niet een aangetoond voordeel ten opzichte van kleinere cockpitmodellen.