Jingang GC3 erklärt: Dataflow-Computing für Video-KI

Jingang GC3, auch als King Kong GC3 bezeichnet, wird als spezialisierter Video-KI- und AIGC-Prozessor von SmarCo HT Tech beschrieben. Statt Videodekodierung, KI-Inferenz und Videogenerierung auf getrennte Prozessoren zu verteilen, soll der Chip diese Verarbeitungspfade in einer gemeinsamen, datenflussorientierten Architektur zusammenführen. Zu den gemeldeten technischen Daten gehören 12 RISC-V-Kerne, eine INT8-Rechenleistung von 200 TOPS sowie 128 GB gemeinsamer LPDDR5-ECC-Speicher. 35

Entscheidend ist dabei nicht allein die große TOPS-Zahl. Der Ansatz von GC3 zielt auf ein Problem, das bei Videoanwendungen häufig ebenso wichtig ist wie die reine Rechenleistung: den Aufwand für das Verschieben von Bildern, Modelldaten und Zwischenergebnissen zwischen Prozessoren und Speicher. Dataflow-Engine, gemeinsamer Speicher sowie integrierte Video- und KI-Pfade sollen diese Datenbewegungen verringern.

Warum Video-KI zum Datenbewegungsproblem wird

In einer klassischen Pipeline wird ein Videostream zunächst dekodiert und in Einzelbilder zerlegt. Diese Frames werden anschließend häufig an eine GPU übertragen, dort analysiert und für weitere Verarbeitungsschritte erneut verschoben. Mit steigender Zahl paralleler Streams können Transfers und Synchronisierung deshalb neben der eigentlichen Berechnung zum Flaschenhals werden. 3

Bei der Videogenerierung entsteht ein ähnliches Problem. Diffusions- und Transformer-Modelle arbeiten mit großen Parametermengen und umfangreichen Zwischenergebnissen. Den Berichten zu GC3 zufolge können diese Zwischen-Datensätze Hunderte Gigabyte erreichen. Wiederholte Lese- und Schreibvorgänge sowie Transfers kosten dann Bandbreite, Energie und Zeit. 3

GC3 soll daher nicht nur einen Mangel an Recheneinheiten adressieren, sondern vor allem den Aufwand, viele parallele Verarbeitungsschritte miteinander zu koordinieren.

Was die Architektur von GC3 verbindet

Dataflow statt zentraler Arbeitsverteilung

Bei einem klassischen Control-Flow-Design ruft eine zentrale Recheneinheit oder ein Scheduler Befehle ab und verteilt sie, während Daten durch mehrere Ebenen der Speicherhierarchie wandern. Dieses Modell ist flexibel, passt laut den verfügbaren Beschreibungen aber nur eingeschränkt zu regelmäßigen, massiv parallelen Videooperationen. 3

Bei einer Dataflow-Architektur kann eine Berechnung starten, sobald die dafür benötigten Daten verfügbar sind. Dadurch lässt sich prinzipiell mehr Parallelität nutzen. Außerdem kann die Abhängigkeit von einer zentralen Steuerung und globaler Koordination sinken. Für Videoanwendungen soll das bedeuten, dass mehr Verarbeitungsschritte gleichzeitig aktiv bleiben, ohne dass sämtliche Arbeit über einen einzigen Steuerpfad laufen muss. 3

Das ist zunächst ein Architekturziel und kein Nachweis eines bestimmten Geschwindigkeitsvorteils. Die verfügbaren Quellen liefern keine unabhängigen Ende-zu-Ende-Vergleiche mit konkret benannten CPUs, GPUs oder Video-KI-Plattformen.

RISC-V als programmierbare Steuerebene

Die 12 RISC-V-Kerne bilden den gemeldeten Aufbau zufolge die programmierbare Steuer- und Kontrollebene. Spezialisierte Einheiten übernehmen Video- und KI-Operationen, während die RISC-V-Kerne allgemeine Steuerungs- und Scheduling-Aufgaben ausführen. 35

RISC-V ist dabei nicht als alleinige Rechenbasis des gesamten Chips gedacht. Die offenen Prozessorkerne arbeiten zusammen mit der Dataflow-Engine und dedizierten Video- und KI-Funktionen. So soll programmierbare Kontrolle erhalten bleiben, während rechenintensive, stark parallele Aufgaben auf spezialisierter Hardware laufen.

128 GB gemeinsamer Speicher

GC3 soll über 128 GB gemeinsamen LPDDR5-ECC-Speicher verfügen, auf den CPU-, VPU-, GPU- und NPU-Pfade zugreifen können. 35 Der gedachte Vorteil: Daten müssen nicht im gleichen Umfang zwischen getrennten CPU- und GPU-Speicherpools kopiert werden.

Dekodierte Frames, Modellgewichte und Zwischentensoren könnten dadurch für mehrere Recheneinheiten in einem gemeinsamen Speicherbereich verfügbar bleiben. ECC steht für Error-Correcting Code und ermöglicht die Erkennung beziehungsweise Korrektur bestimmter Speicherfehler. Auch bei RISC-V-Prozessoren wurde ECC-geschützter Speicher als Ansatz zur Verbesserung der Fehlertoleranz untersucht. 1

Unified Memory beseitigt allerdings nicht automatisch alle Bandbreitenprobleme. Entscheidend bleiben unter anderem die tatsächliche Speicherbandbreite, der Software-Stack, die Ablaufplanung und das jeweilige Anwendungsszenario.

Integrierte Video- und KI-Pfade

Nach den vorliegenden Angaben verbindet GC3 Videoencoding und -dekodierung mit KI-Rechenfunktionen auf einer gemeinsamen Plattform. Dadurch soll ein direkterer Weg vom Videoeingang zur Analyse und von generierten Inhalten zur anschließenden Kodierung entstehen. 35

Das geplante Verarbeitungsschema lässt sich vereinfacht so zusammenfassen:

• Video wird auf der Plattform dekodiert.
• Die Frames bleiben für die zuständigen KI-Einheiten verfügbar.
• Analyse oder Generierung erfolgt, ohne dass Daten wiederholt zwischen getrennten Geräten ausgetauscht werden müssen.
• Das Ergebnis wird auf demselben integrierten System kodiert.

Das bedeutet nicht, dass jede Operation in einem einzigen unteilbaren Schritt abläuft. Gemeint ist vielmehr, dass unnötige Übergaben zwischen separaten Prozessoren und Speichersystemen reduziert werden sollen.

Wie daraus weniger Kosten, Energieverbrauch und Latenz entstehen könnten

Die erwarteten Vorteile leiten sich direkt aus der Architektur ab. Wenn eine Anwendung weniger Daten kopieren, weniger Speicher-Rundläufe ausführen und seltener zwischen Geräten synchronisieren muss, kann sie weniger Zeit und Energie mit dem Transport von Daten statt mit deren Verarbeitung verbringen. Das könnte insbesondere bei der Analyse vieler Videostreams, lokaler Videobearbeitung und der Videogenerierung mit großen Zwischentensoren relevant sein. 3

Die möglichen Effekte liegen vor allem in drei Bereichen:

• Latenz: Weniger Transfers zwischen Dekodierung, KI-Verarbeitung und Kodierung könnten den Weg vom Eingangsframe zum Ergebnis verkürzen.
• Energie: Weniger Speicherzugriffe und Interconnect-Verkehr könnten den Energiebedarf der Datenbewegung senken.
• Kosten: Eine integrierte Plattform könnte den technischen und operativen Aufwand mehrerer koordinierter Spezialgeräte reduzieren.

Dabei handelt es sich um die von den verfügbaren Berichten beschriebenen Ziele, nicht um unabhängig verifizierte Ergebnisse. Die Quellen nennen Eckdaten und begründen den Architekturansatz, belegen aber keine konkrete Reduzierung von Kosten pro Video, Watt pro Stream oder Millisekunden Ende-zu-Ende-Latenz.

Was die technischen Daten aussagen – und was nicht

Die gemeldeten 200 TOPS beziehen sich auf die mögliche INT8-KI-Rechenleistung und garantieren keine bestimmte Anwendungsperformance. Der tatsächliche Durchsatz bei Video-KI hängt außerdem von Modellkompatibilität, Rechengenauigkeit, Speicherbandbreite, Compiler- und Laufzeitunterstützung, Videoformaten, Batch-Größe, Stream-Anzahl und der Qualität des Dataflow-Schedulers ab.

Auch 128 GB Unified Memory können dabei helfen, große Modelle und umfangreiche Zwischendaten unterzubringen. Die Speicherkapazität allein zeigt jedoch nicht, dass ein bestimmtes Videogenerierungsmodell effizient ausgeführt werden kann. Softwareunterstützung und der tatsächliche Datenverkehr im Speicher bleiben entscheidend.

Fazit

Jingang GC3 lässt sich am besten als Versuch verstehen, die Verarbeitungskette für Video-KI stärker auf Datenlokalität auszurichten. Die gemeldete Kombination aus Dataflow-Ausführung, RISC-V-Steuerkernen, integrierten CPU-, VPU-, GPU- und NPU-Pfaden sowie 128 GB gemeinsamem Speicher soll genau jene Transfers und Synchronisationsbarrieren angehen, die klassische CPU-GPU-Pipelines ausbremsen können. 35

Wenn Hardware und Software wie vorgesehen zusammenspielen, könnte die Architektur die Analyse vieler Videostreams und die Videogenerierung effizienter machen. Der derzeit belastbarste Schluss lautet jedoch: GC3 steht für einen plausiblen Architekturansatz und gemeldete Herstellerspezifikationen – nicht für einen unabhängig nachgewiesenen Vorteil bei Kosten, Energieverbrauch oder Latenz.