AI v autě bez cloudu? XPeng a Banma představily kokpit s modelem třídy 30B

XPeng a Banma představily společný návrh AI kokpitu, který má umožnit provoz modelů s přibližně 30 miliardami parametrů přímo ve vozidle. Výpočetní výkon má dodat čip Turing od XPengu, u nějž firmy uvádějí až 750 TOPS na čip. Systém má přednostně zpracovávat úlohy lokálně a cloud využívat jako doplněk. Konkrétní sériový vůz ani termín uvedení ale oznámeny nebyly. 61821

Co do spolupráce přináší XPeng a co Banma

XPeng dodává svou výpočetní platformu Turing pro použití ve vozidlech, zatímco Banma přináší multimodální model AutoOmni určený pro automobilové kokpity. Podle oznámení má řešení podporovat místní běh modelů třídy 30B a funkce jako vícekrokovou konverzaci, multimodální komunikaci, offline odpovědi na otázky a plánování úkolů. 1821

Pro XPeng jde také o součást širšího záměru nabízet technologie dalším automobilkám. Reuters uvedl, že firma chce zpřístupnit mimo jiné své čipy, systémy kokpitu a další automobilové technologie. Banma je poskytovatelem řešení pro chytrá auta, za nímž stojí Alibaba Group a SAIC Motor. 15

Co znamená „nejdřív zařízení, potom cloud“

U úloh, které systém podporuje, se výpočty mají odehrávat přímo v autě, ne běžně na vzdáleném serveru. Mezi uváděné možnosti patří offline odpovídání na otázky; cloud má zůstat k dispozici pro některé méně časté potřeby. Lokální zpracování tak může omezit závislost těchto funkcí na připojení k internetu a ušetřit cestu dat do cloudu a zpět. 1821

To jsou možné přínosy navržené architektury, nikoli změřené výsledky. Dostupné oznámení neuvádí testy odezvy, nepopisuje konkrétní pravidla nakládání s daty z kabiny a nesrovnává systém s konkrétními modely pro kokpity o velikosti 4B nebo 7B. Vyšší počet parametrů sám o sobě nedokazuje, že model bude v autě rychlejší, schopnější nebo šetrnější k soukromí. K takovému závěru by byly potřeba testy a podrobnosti o nasazení, které zatím nejsou k dispozici.

Samostatný model Banmy AutoOmni 2.0-23B-A3B

Banma představila také AutoOmni 2.0-23B-A3B, samostatný model pro lokální provoz postavený na architektuře mixture of experts (MoE), který podle firmy obsahuje 23 miliard parametrů. Banma tvrdí, že při běžných úlohách v kokpitu dosahuje srovnatelného výkonu jako cloudové modely s 230 miliardami parametrů a u složitých úloh dosahuje 90 % výkonu cloudových modelů podobné velikosti. Jde o srovnání uváděná výrobcem, nikoli o nezávislé testy vedle sebe. Z dostupných zdrojů také nevyplývá, že tento model s 23 miliardami parametrů je totožný s konfigurací třídy 30B ze společného řešení XPengu a Banmy. 4

Co zatím zůstává otevřené

Oznámení popisuje společné řešení, dostupné zprávy však neuvádějí konkrétní sériový vůz, který by je měl dostat, ani harmonogram nasazení. Není potvrzeno ani jeho použití v robotu či jiném zařízení mimo auta. XPeng sice plánuje nabízet své technologie dalším automobilkám a rozšiřovat licencování do robotiky a dalších oblastí takzvané fyzické AI, to jsou ale širší plány, nikoli potvrzení nasazení tohoto kokpitu. 16

Rozhodující bude, zda systém převezmou automobilky a jak si povede v reálných vozech. Do té doby číslo 30B a přístup „nejdřív zařízení, potom cloud“ popisují oznámenou schopnost a návrh řešení — ne prokázanou výhodu oproti menším modelům pro kokpity.