AI kokpit XPeng-Banma: model 30B di dalam kereta, awan sebagai sokongan

XPeng dan Banma mengumumkan reka bentuk kokpit AI bersama yang menyokong operasi model kelas 30 bilion parameter terus di dalam kenderaan. Sistem itu menggabungkan cip Turing XPeng—yang menurut pengumuman tersebut menawarkan kuasa pengkomputeran sehingga 750 TOPS bagi setiap cip—dengan pendekatan yang mengutamakan pemprosesan setempat dan menggunakan perkhidmatan awan sebagai sokongan. Setakat ini, tiada kereta produksi yang dinamakan sebagai pengguna sistem tersebut dan tiada tarikh pelancaran diberikan. 61821

Sumbangan XPeng dan Banma

XPeng menyediakan platform pengkomputeran dalam kenderaan Turing, manakala Banma menyumbangkan model kokpit multimodal AutoOmni. Rakan kongsi itu menyatakan sistem mereka menyokong operasi model kelas 30B secara setempat serta fungsi seperti perbualan berbilang giliran, interaksi multimodal, soal jawab luar talian dan perancangan tugasan. 1821

Kerjasama ini juga seiring dengan usaha XPeng menawarkan teknologi kenderaan kepada pengeluar lain. Reuters melaporkan bahawa XPeng merancang menawarkan cip, sistem kokpit dan teknologi lain kepada syarikat automotif lain. Banma pula ialah penyedia penyelesaian kereta pintar yang disokong Alibaba Group dan SAIC Motor. 15

Apa maksud “utamakan peranti, dibantu awan”?

Bagi tugasan kokpit yang disokong, sistem boleh memproses permintaan di dalam kereta dan bukannya menghantarnya ke pelayan setiap kali. Antara kegunaan yang disebut ialah soal jawab luar talian; perkhidmatan awan masih boleh membantu bagi keperluan tertentu yang kurang kerap. Secara teori, pendekatan ini boleh menjadikan fungsi terpilih kurang bergantung pada sambungan internet dan mengelakkan perjalanan ulang-alik data melalui rangkaian untuk tugasan setempat. 1821

Namun, itu ialah potensi reka bentuk, bukannya hasil prestasi yang sudah diukur. Pengumuman yang tersedia tidak menyertakan ujian kependaman, menerangkan amalan khusus bagi pengendalian data dalam kabin atau membandingkan sistem ini secara langsung dengan model kokpit 4B atau 7B tertentu. Jumlah parameter yang lebih besar sahaja tidak membuktikan model itu lebih pantas, lebih berkebolehan atau lebih menjaga privasi. Perbandingan sedemikian memerlukan ujian dan butiran pelaksanaan yang belum diberikan.

AutoOmni 2.0-23B-A3B ialah model berasingan

Banma turut mengumumkan AutoOmni 2.0-23B-A3B, iaitu model berasingan untuk peranti yang dibina menggunakan seni bina campuran pakar (mixture of experts) dan mempunyai 23 bilion parameter. Banma mendakwa model itu memberikan prestasi setanding model awan 230B untuk tugasan kokpit rutin, serta mencapai 90% prestasi model awan bersaiz serupa bagi tugasan kompleks. Perbandingan ini datang daripada Banma, bukan keputusan ujian bebas secara bersemuka. Sumber yang tersedia juga tidak mengesahkan bahawa model 23B itu ialah konfigurasi yang sama dengan model kelas 30B dalam penyelesaian bersama XPeng-Banma. 4

Perkara yang masih belum disahkan

Pengumuman itu memperkenalkan penyelesaian bersama, tetapi laporan yang tersedia tidak menamakan kereta produksi yang akan menggunakannya atau memberikan jadual pelaksanaan. Tiada juga pengesahan bahawa sistem kokpit bersama ini akan digunakan pada robot atau peranti bukan kereta yang lain. XPeng memang mempunyai rancangan lebih luas untuk menawarkan teknologinya kepada pembuat kereta lain serta memperluas pelesenan kepada robotik dan aplikasi AI fizikal lain, tetapi rancangan tersebut berbeza daripada pengesahan penggunaan penyelesaian kokpit ini. 16

Ukuran sebenar nanti ialah sama ada pengeluar kereta menerima pakai sistem ini dan bagaimana prestasinya dalam kenderaan sebenar. Buat masa ini, angka kelas 30B dan reka bentuk yang mengutamakan pemprosesan setempat menerangkan keupayaan yang diumumkan—bukan kelebihan yang sudah terbukti berbanding model kokpit lebih kecil.