Jak Jingang GC3 využívá RISC-V a datový tok pro video-AI

Jingang GC3, označovaný také jako King Kong GC3, je podle dostupných zpráv specializovaný procesor společnosti SmarCo HT Tech pro video-AI a generativní AI. Namísto toho, aby dekódování videa, inferenci a generování obrazu rozděloval mezi několik různých zařízení, se snaží tyto fáze propojit v jedné platformě založené na datovém toku. Uváděné parametry zahrnují 12 jader RISC-V, výkon 200 TOPS při výpočtech INT8 a 128 GB sjednocené paměti LPDDR5 s ECC. 35

Nejdůležitější přitom není samotné číslo TOPS. Hlavní argument GC3 spočívá v tom, že video-AI často nezpomaluje jen nedostatek výpočetních jednotek, ale také neustálé přesouvání snímků, vah modelu a mezivýsledků mezi procesory a pamětí. Datový engine, sdílená paměť a integrované video i AI bloky mají tento provoz omezit.

Proč video-AI naráží na přesuny dat

Typický systém pro porozumění videu nejprve dekóduje stream na jednotlivé snímky, odešle je do GPU, provede analýzu obrazu a následně předává výsledky dalším částem zpracování. S rostoucím počtem souběžných streamů se tak přenosy a synchronizace mohou stát stejně vážným úzkým hrdlem jako vlastní výpočty. 3

Podobný problém se objevuje u generování videa. Modely založené na difuzi a transformerech pracují s rozsáhlými parametry a mezivýsledky. Podle zpráv kolem GC3 mohou tyto datové sady dosahovat stovek gigabajtů, takže opakované čtení, zápis a přenos spotřebovávají čas, paměťovou propustnost i energii. 3

Právě na tento problém GC3 míří: nesoustředí se pouze na počet aritmetických jednotek, ale také na cenu koordinace mnoha fází rozsáhlé a vysoce paralelní úlohy.

Co architektura GC3 kombinuje

Výpočty založené na datovém toku

U tradiční architektury řízené instrukcemi centrální procesor nebo plánovač načítá a vydává instrukce, zatímco data procházejí hierarchií paměti. Takový přístup je flexibilní, ale podle popisu GC3 se pro některé pravidelné a masivně paralelní videooperace nehodí ideálně. 3

V datové architektuře může výpočet pokračovat ve chvíli, kdy jsou k dispozici vstupní data potřebná pro danou operaci. Teoreticky to umožňuje lépe využít paralelismus a omezit čekání způsobené centrálním plánováním či globální koordinací. U videoúloh je záměrem udržet více zpracovatelských fází aktivních, aniž by veškerá práce musela opakovaně procházet jednou řídicí cestou. 3

Jde však o architektonický záměr, nikoli o důkaz konkrétního zrychlení. Dostupné zdroje neposkytují nezávislé testy porovnávající GC3 s konkrétními CPU, GPU nebo jinými platformami pro video-AI.

Řídicí jádra RISC-V

Dvanáct jader RISC-V má podle popisu tvořit programovatelnou řídicí vrstvu čipu. Specializované cesty zpracovávají video a AI operace, zatímco jádra RISC-V zajišťují obecné řízení a plánování. Běžný procesor tak nemusí obsluhovat každou fázi celého řetězce. 35

RISC-V zde tedy není prezentováno jako jediný výpočetní engine. Spolupracuje s datovým enginem a specializovanými video a AI funkcemi: poskytuje programovatelnost a kontrolu, zatímco úlohy s vysokou propustností přebírá specializovaný hardware.

Sjednocená paměť o kapacitě 128 GB

GC3 má podle dostupných informací využívat 128 GB sjednocené paměti LPDDR5 s ECC, sdílené cestami CPU, VPU, GPU a NPU. 35 Zamýšlenou výhodou je menší potřeba kopírovat data mezi oddělenými paměťovými prostory procesoru a grafického akcelerátoru.

Ve sdíleném prostoru mohou dekódované snímky, váhy modelu i mezivýsledky zůstat dostupné více výpočetním blokům bez stejného množství přesunů mezi zařízeními. ECC, tedy kód pro opravu chyb, přidává paměťovému subsystému schopnost detekovat a opravovat vybrané chyby; výzkum procesorů RISC-V se zabýval využitím paměti chráněné ECC také pro zvýšení odolnosti systému vůči poruchám. 1

Sjednocená paměť samozřejmě sama o sobě neodstraňuje všechny limity propustnosti. Mění způsob, jakým jednotlivé výpočetní bloky k datům přistupují. Skutečný přínos proto bude záviset na propustnosti paměti, softwarovém zásobníku, plánování i konkrétní zátěži.

Integrované video a AI cesty

Uváděná konstrukce spojuje kódování a dekódování videa s AI výpočty na jedné platformě. To má vytvořit přímější cestu od vstupního videa k jeho analýze a od vygenerovaného obsahu k výslednému kódování. 35

Zamýšlený pracovní postup tedy vypadá takto:

• platforma dekóduje video;
• snímky zůstávají k dispozici příslušné AI cestě;
• porozumění videu nebo jeho generování probíhá bez opakovaného překračování hranic mezi samostatnými zařízeními;
• výstup se následně zakóduje na stejné integrované platformě.

Neznamená to, že všechny operace probíhají v jediném nedělitelném kroku. Smyslem je omezit zbytečné předávání práce mezi procesory a paměťovými systémy, které by jinak fungovaly odděleně.

Jak má GC3 snížit náklady, spotřebu a latenci

Zamýšlený ekonomický přínos čipu vyplývá přímo z jeho architektury. Pokud úloha vyžaduje méně kopírování, méně přístupů do paměti a méně synchronizace mezi zařízeními, může trávit méně času a energie přesouváním dat místo jejich zpracováním. To by mohlo být užitečné při analýze více video streamů, lokálním zpracování videa i generování videa s rozsáhlými mezivýsledky. 3

Potenciální přínosy lze rozdělit do tří oblastí:

• Latence: méně přenosů mezi dekódováním, AI analýzou a kódováním by mohlo zkrátit cestu od vstupního snímku k výsledku.
• Spotřeba: omezení přesunů dat může snížit energii vynaloženou na přístupy do paměti a provoz propojení mezi bloky.
• Náklady: jediná integrovaná platforma by mohla zjednodušit infrastrukturu a provoz oproti koordinaci několika specializovaných zařízení.

To jsou cíle popsané v dostupných materiálech, nikoli nezávisle ověřené výsledky. Zdroje uvádějí hlavní parametry a architektonické důvody, ale nepotvrzují konkrétní snížení ceny za video, spotřeby ve wattech na stream ani celkové latence v milisekundách.

Co parametry říkají — a co z nich nevyčteme

Uvedených 200 TOPS popisuje kapacitu AI výpočtů v přesnosti INT8, nikoli zaručený výkon v konkrétní aplikaci. Skutečná propustnost video-AI bude záviset také na kompatibilitě modelů, použité přesnosti, propustnosti paměti, podpoře kompilátoru a runtime prostředí, formátech videa, velikosti dávky, počtu streamů a kvalitě plánování datového toku.

Ani 128 GB sjednocené paměti samo o sobě neznamená, že na čipu efektivně poběží konkrétní model pro generování videa. Kapacita může pomoci s velkými modely a mezivýsledky, rozhodující však zůstává softwarová podpora i reálný provoz paměti.

Závěr

Jingang GC3 lze nejlépe chápat jako specializovaný pokus přepracovat zpracování video-AI s důrazem na lokálnost dat. Uváděná kombinace datového zpracování, řídicích jader RISC-V, integrovaných cest CPU/VPU/GPU/NPU a 128 GB sjednocené paměti má řešit přenosy a synchronizační bariéry, které mohou brzdit tradiční pipeline založené na CPU a GPU. 35

Pokud bude hardware i software fungovat podle zamýšleného návrhu, mohla by tato architektura zefektivnit analýzu více video streamů i generování videa. Nejpřesnější závěr je ale zatím opatrnější: GC3 představuje věrohodnou architektonickou strategii a soubor výrobcem uváděných parametrů, nikoli nezávisle ověřený důkaz nižších nákladů, spotřeby nebo latence.