Bagaimana Jingang GC3 Memadukan RISC-V dan Komputasi Dataflow untuk Video AI

Jingang GC3, yang juga disebut King Kong GC3, dilaporkan sebagai prosesor khusus untuk video AI dan AI generatif dari SmarCo HT Tech. Alih-alih memisahkan decoding video, inferensi AI, dan generasi video ke perangkat berbeda, chip ini dirancang untuk menyatukan jalur-jalur tersebut dalam arsitektur berbasis dataflow. Spesifikasi yang dilaporkan mencakup 12 inti RISC-V, kemampuan komputasi INT8 sebesar 200 TOPS, serta memori terpadu LPDDR5 ECC berkapasitas 128 GB. 35

Hal yang paling penting bukan sekadar angka 200 TOPS. Daya tarik GC3 terletak pada upayanya mengurangi perpindahan frame, data model, dan hasil pemrosesan sementara antara prosesor dan memori. Mesin dataflow, memori bersama, serta jalur video dan AI yang terintegrasi dirancang untuk menangani persoalan tersebut.

Mengapa video AI terbentur masalah perpindahan data

Dalam alur kerja pemahaman video konvensional, sebuah stream biasanya didekode menjadi frame, dipindahkan ke GPU untuk inferensi visual, lalu diteruskan ke tahap pemrosesan berikutnya. Ketika jumlah stream meningkat, proses menyalin dan menyinkronkan data dapat menjadi hambatan, bukan hanya kemampuan komputasinya. 3

Tantangannya serupa pada generasi video. Sistem berbasis difusi dan Transformer bekerja dengan parameter model serta hasil pemrosesan sementara yang besar. Laporan mengenai GC3 menyebut ukuran data perantara tersebut dapat mencapai ratusan gigabita, sehingga pembacaan, penulisan, dan pemindahan berulang menjadi mahal dari sisi bandwidth, energi, dan waktu. 3

Dengan kata lain, persoalannya bukan hanya kekurangan unit aritmetika. Beban kerja video AI juga menuntut koordinasi banyak tahap yang berjalan secara paralel.

Apa saja yang dipadukan dalam arsitektur GC3

Komputasi dataflow

Dalam desain berbasis control-flow yang umum, prosesor atau penjadwal pusat mengambil dan menerbitkan instruksi, sementara data bergerak melalui hierarki memori. Pendekatan ini fleksibel, tetapi laporan mengenai GC3 menilainya kurang ideal untuk sebagian operasi video yang teratur dan sangat paralel. 3

Pada desain dataflow, komputasi dapat berjalan ketika data yang diperlukan oleh suatu operasi sudah tersedia. Secara teori, pendekatan ini membuka lebih banyak paralelisme dan mengurangi waktu tunggu akibat penjadwalan terpusat serta koordinasi global. Untuk beban kerja video, tujuannya adalah menjaga lebih banyak tahap pemrosesan tetap aktif tanpa terus-menerus mengarahkan pekerjaan melalui satu jalur kontrol. 3

Namun, tujuan arsitektur bukanlah bukti bahwa chip ini pasti mencapai percepatan tertentu. Sumber yang tersedia belum memberikan perbandingan end-to-end independen dengan CPU, GPU, atau platform video AI tertentu.

Inti kontrol RISC-V

Dua belas inti RISC-V berfungsi sebagai lapisan kontrol yang dapat diprogram dalam desain yang dilaporkan. Jalur pemrosesan khusus menangani operasi video dan AI, sementara inti RISC-V menyediakan kendali umum serta penjadwalan. Dengan demikian, CPU konvensional tidak harus mengelola setiap tahap pemrosesan. 35

Dalam susunan ini, RISC-V bukan keseluruhan mesin komputasi. RISC-V bekerja bersama mesin dataflow dan fungsi video serta AI khusus. Hasilnya diharapkan menjadi platform dengan kontrol yang tetap dapat diprogram, tetapi operasi ber-throughput tinggi diserahkan kepada perangkat keras khusus.

Memori terpadu 128 GB

GC3 dilaporkan menggunakan memori terpadu LPDDR5 ECC 128 GB yang dipakai bersama oleh jalur CPU, VPU, GPU, dan NPU. 35 Keunggulan yang dituju adalah berkurangnya kebutuhan menyalin data antara kumpulan memori CPU dan GPU yang terpisah.

Dengan satu kumpulan memori, frame hasil decoding, bobot model, dan tensor perantara berpotensi tetap tersedia bagi beberapa blok pemrosesan tanpa harus berulang kali melewati transfer ant perangkat. ECC juga menyediakan kemampuan perlindungan terhadap kesalahan pada subsistem memori; penelitian tentang prosesor RISC-V turut membahas memori berpelindung ECC untuk meningkatkan toleransi terhadap gangguan. 1

Meski demikian, memori terpadu tidak otomatis menghapus semua batasan bandwidth. Dampak nyatanya tetap bergantung pada bandwidth memori, dukungan perangkat lunak, penjadwalan, dan karakteristik beban kerja.

Jalur video dan AI yang terintegrasi

Desain yang dilaporkan menggabungkan encode dan decode video dengan komputasi AI dalam satu platform. Hal ini dimaksudkan untuk menciptakan jalur yang lebih langsung, mulai dari video masuk hingga pemahaman, serta dari konten yang dihasilkan hingga proses encoding. 35

Alur kerja yang ditawarkan dapat diringkas sebagai berikut:

• video didekode di dalam platform;
• frame tetap tersedia bagi jalur AI yang membutuhkannya;
• proses pemahaman atau generasi berjalan tanpa berulang kali melewati batas antarperangkat; dan
• keluaran dikodekan kembali pada sistem terintegrasi yang sama.

Ini bukan berarti seluruh operasi berlangsung dalam satu langkah yang tidak terpisahkan. Maksudnya, arsitektur tersebut dirancang untuk mengurangi serah-terima yang tidak perlu antara prosesor dan sistem memori yang berbeda.

Bagaimana GC3 menargetkan biaya, daya, dan latensi

Dampak ekonomi yang diharapkan dari chip ini berhubungan langsung dengan arsitekturnya. Jika sebuah beban kerja membutuhkan lebih sedikit penyalinan, perjalanan bolak-balik ke memori, dan sinkronisasi ant perangkat, lebih sedikit waktu serta energi yang dihabiskan untuk memindahkan data, bukan mengolahnya. Hal ini berpotensi berguna untuk pemahaman video multi-stream, pemrosesan video lokal, dan generasi video dengan tensor perantara berukuran besar. 3

Potensi manfaatnya dapat dibagi menjadi tiga aspek:

• Latensi: lebih sedikit transfer antara tahap decoding, AI, dan encoding dapat memperpendek jarak antara frame masukan dan hasil akhir.
• Daya: pengurangan perpindahan data dapat menekan energi yang digunakan untuk akses memori dan lalu lintas interkoneksi.
• Biaya: satu platform terintegrasi berpotensi mengurangi kebutuhan infrastruktur serta biaya operasional untuk mengoordinasikan banyak perangkat khusus.

Namun, semua itu masih merupakan sasaran arsitektur dan klaim positioning berdasarkan laporan yang tersedia. Belum ada bukti independen mengenai pengurangan biaya per video, watt per stream, atau latensi end-to-end dalam satuan milidetik.

Apa yang bisa dan tidak bisa disimpulkan dari spesifikasinya

Angka 200 TOPS yang dilaporkan menunjukkan kapasitas komputasi AI INT8, bukan jaminan performa aplikasi tertentu. Throughput video AI dalam praktik juga akan dipengaruhi oleh kompatibilitas model, presisi, bandwidth memori, dukungan compiler dan runtime, format video, ukuran batch, jumlah stream, serta efektivitas penjadwal dataflow.

Begitu pula, memori terpadu 128 GB mungkin membantu menampung model besar dan data perantara. Namun, kapasitas saja tidak membuktikan bahwa model generasi video tertentu akan berjalan secara efisien. Dukungan perangkat lunak dan pola lalu lintas memori tetap sangat menentukan.

Kesimpulan

Jingang GC3 paling tepat dipahami sebagai upaya khusus untuk merancang ulang jalur pemrosesan video AI dengan menitikberatkan pada kedekatan data. Kombinasi eksekusi dataflow, inti kontrol RISC-V, jalur CPU/VPU/GPU/NPU yang terintegrasi, serta memori terpadu 128 GB ditujukan untuk mengatasi perpindahan data dan hambatan sinkronisasi yang dapat membatasi pipeline CPU-GPU konvensional. 35

Jika perangkat keras dan perangkat lunaknya bekerja sesuai rancangan, arsitektur ini berpotensi membuat pemahaman video multi-stream dan generasi video menjadi lebih efisien. Untuk saat ini, kesimpulan paling kuat yang dapat ditarik adalah bahwa GC3 menawarkan strategi arsitektur yang masuk akal dan spesifikasi yang dilaporkan vendor—bukan bukti independen bahwa biaya, konsumsi daya, atau latensinya pasti lebih rendah.