AI w kokpicie auta: XPeng i Banma stawiają na model działający lokalnie

XPeng i Banma ogłosiły wspólny projekt inteligentnego kokpitu samochodowego, który ma umożliwiać uruchamianie modeli AI klasy 30 mld parametrów bezpośrednio w aucie. Rozwiązanie łączy układ obliczeniowy Turing firmy XPeng z multimodalnym modelem kokpitowym AutoOmni firmy Banma. Według opisu system ma działać przede wszystkim lokalnie, a z usług chmurowych korzystać pomocniczo. Nie wskazano jednak seryjnego modelu samochodu, który otrzyma ten system, ani terminu wdrożenia. 61821

Co wnosi każda z firm

XPeng dostarcza platformę obliczeniową Turing przeznaczoną do zastosowań samochodowych. Według komunikatu pojedynczy układ ma zapewniać do 750 TOPS, czyli bilionów operacji na sekundę. Banma odpowiada za model AutoOmni, który ma obsługiwać m.in. rozmowę wieloetapową, interakcje wykorzystujące różne rodzaje danych, pytania i odpowiedzi bez połączenia z siecią oraz planowanie zadań. 1821

Projekt wpisuje się też w szersze plany XPeng dotyczące sprzedaży technologii innym producentom samochodów. Reuters informował, że firma chce oferować im m.in. układy Turing i systemy kokpitowe. Banma jest dostawcą rozwiązań dla inteligentnych samochodów wspieranym przez Alibaba Group i SAIC Motor. 15

„Najpierw urządzenie, potem chmura” — co to oznacza?

W podejściu on-device first zadania, które obsługuje system, mają być przetwarzane w samochodzie, zamiast domyślnie trafiać na zewnętrzny serwer. Wśród wymienionych funkcji znalazły się odpowiedzi na pytania bez dostępu do internetu; chmura ma pozostać dostępna dla części zadań wykonywanych rzadziej. 1821

Taka architektura może ograniczyć zależność obsługiwanych funkcji od łączności i wyeliminować opóźnienie związane z przesłaniem zapytania do serwera i z powrotem. Nie oznacza to jednak, że każda funkcja będzie działać offline ani że system będzie szybszy czy bardziej prywatny od innych rozwiązań.

W dostępnych materiałach nie ma pomiarów opóźnień, szczegółów dotyczących przetwarzania danych z kabiny ani bezpośredniego porównania z konkretnymi modelami klasy 4B lub 7B. Sama większa liczba parametrów nie dowodzi, że model będzie sprawniejszy, bardziej użyteczny albo lepiej chroniący prywatność. Do takich ocen potrzebne byłyby testy i informacje o szczegółach wdrożenia.

Osobny model Banmy: AutoOmni 2.0-23B-A3B

Banma zaprezentowała również AutoOmni 2.0-23B-A3B — odrębny model działający na urządzeniu, oparty na architekturze mieszanki ekspertów (MoE) i opisany jako model o 23 mld parametrów. Firma twierdzi, że w typowych zadaniach kokpitowych osiąga on wyniki porównywalne z chmurowymi modelami o 230 mld parametrów, a w bardziej złożonych zadaniach — 90 proc. wyników modeli chmurowych o podobnej wielkości. Są to deklaracje Banmy, a nie niezależne wyniki porównawczych testów. Dostępne źródła nie potwierdzają, że model 23B jest tą samą konfiguracją, co model klasy 30B w rozwiązaniu przygotowywanym wspólnie z XPeng. 4

Co pozostaje niewiadomą

Zapowiedź dotyczy wspólnego rozwiązania, ale nie wskazuje samochodu, w którym system trafi do produkcji, ani daty jego wdrożenia. Nie ma też potwierdzenia, że kokpitowy system XPeng i Banmy będzie używany w robocie lub innym urządzeniu poza samochodem.

XPeng rozważa szersze udostępnianie swoich technologii innym producentom i rozwijanie licencjonowania rozwiązań dla robotyki oraz innych zastosowań tzw. fizycznej AI. To jednak osobne plany, a nie potwierdzenie wdrożenia tego konkretnego systemu kokpitowego poza autem. 16

Na razie liczba „30B” i lokalne przetwarzanie opisują deklarowane możliwości oraz założenia projektu, nie udowodnioną przewagę nad mniejszymi modelami. Praktyczny sprawdzian przyjdzie dopiero wtedy, gdy firmy podadzą, gdzie i kiedy rozwiązanie zostanie zastosowane oraz jak będzie działać w seryjnym samochodzie.