Jingang GC3, video yapay zekâsında veri taşıma sorununu çözebilir mi?

Jingang GC3 — diğer adıyla King Kong GC3 — SmarCo HT Tech tarafından geliştirildiği bildirilen, video yapay zekâsı ve üretken yapay zekâ iş yüklerine odaklanan özel bir işlemci. Bazı kaynaklarda üretici ekip Zhongke Tongliang adıyla da anılıyor. Çipin temel yaklaşımı, video kod çözme, yapay zekâ çıkarımı ve video üretimini ayrı cihazlara bölmek yerine bunları veri akışı merkezli tek bir mimari altında bir araya getirmek.

Bildirilen teknik özellikler arasında 12 RISC-V çekirdeği, 200 TOPS INT8 işlem kapasitesi ve 128 GB birleşik LPDDR5 ECC bellek bulunuyor. 35

Ancak GC3’ün iddiası yalnızca yüksek TOPS değerinden ibaret değil. Video iş yüklerinde zaman ve enerjinin önemli bir bölümü, karelerin, model ağırlıklarının ve ara sonuçların işlemcilerle bellekler arasında taşınmasına harcanabiliyor. Çipin veri akışı motoru, paylaşımlı belleği ve entegre video-yapay zekâ yolları, bu hareketliliği azaltmayı amaçlıyor.

Video yapay zekâsında sorun neden veri taşımak?

Geleneksel bir video analiz hattında akış önce karelere ayrılır, ardından bu kareler GPU’ya gönderilir, görüntü analizi yapılır ve sonuçlar sonraki işlem aşamalarına aktarılır. Eş zamanlı akış sayısı arttıkça yalnızca hesaplama kapasitesi değil, veriyi taşıma ve aşamaları senkronize etme maliyeti de darboğaza dönüşebilir. 3

Video üretiminde benzer bir problem daha büyük ölçekte ortaya çıkar. Difüzyon ve Transformer tabanlı sistemler büyük model parametreleriyle birlikte kapsamlı ara sonuçlar üretir. GC3 hakkındaki haberlerde, bu ara veri kümelerinin yüzlerce gigabayta ulaşabildiği; tekrar tekrar okuma, yazma ve aktarım yapılmasının bant genişliği, güç tüketimi ve süre açısından maliyet yarattığı belirtiliyor. 3

Dolayısıyla GC3’ün hedefi yalnızca daha fazla aritmetik birim eklemek değil; büyük ve yoğun biçimde paralel iş yüklerinde aşamaları koordine etmenin maliyetini düşürmek.

GC3 mimarisi hangi parçaları birleştiriyor?

Veri akışı hesaplama

Geleneksel kontrol akışı tasarımında merkezi bir işlemci ya da zamanlayıcı komutları alır ve yürütür; veriler ise bellek hiyerarşisi içinde hareket eder. Bu yaklaşım esnek olsa da GC3’e ilişkin kaynaklar, düzenli ve büyük ölçüde paralel video işlemleri için merkezi zamanlamanın verimsiz kalabileceğini savunuyor. 3

Veri akışı mimarisinde ise bir işlem, ihtiyaç duyduğu veriler hazır olduğunda ilerleyebilir. Teorik olarak bu yöntem, daha fazla paralelliğin açığa çıkarılmasını ve merkezi zamanlama ya da küresel koordinasyondan kaynaklanan beklemelerin azaltılmasını sağlar. Video iş yüklerinde amaç, çalışmayı tek bir merkezi kontrol yoluna sürekli geri döndürmeden daha fazla işlem aşamasını aktif tutmaktır. 3

Bu, belirli bir hız artışının kanıtı değil; mimari bir hedef. Mevcut kaynaklarda GC3’ün belirli CPU, GPU veya video yapay zekâ platformlarıyla bağımsız ve uçtan uca karşılaştırmalı test sonuçları paylaşılmıyor.

RISC-V kontrol çekirdekleri

Bildirilen tasarımda 12 RISC-V çekirdeği, programlanabilir kontrol katmanını oluşturuyor. Video ve yapay zekâ işlemleri özel donanım yollarında yürütülürken RISC-V çekirdekleri genel amaçlı kontrol ve zamanlama görevlerini üstleniyor. 35

Burada RISC-V, tüm hesaplamayı tek başına yapan bir motor olarak konumlandırılmıyor. RISC-V; veri akışı motoru, video birimleri ve yapay zekâ hızlandırıcılarıyla birlikte çalışıyor. Böylece platform programlanabilir bir kontrol katmanı sunarken yüksek hacimli işlemler özel donanıma bırakılıyor.

128 GB birleşik bellek

GC3’ün CPU, VPU, GPU ve NPU yolları arasında paylaşılan 128 GB LPDDR5 ECC birleşik bellek kullandığı bildiriliyor. 35 Bunun hedeflenen avantajı, ayrı CPU ve GPU bellek havuzları arasında veri kopyalama ihtiyacını azaltmak.

Paylaşılan bir bellek havuzu sayesinde kodu çözülmüş kareler, model ağırlıkları ve ara tensörler farklı işlem blokları tarafından aynı veri alanı üzerinden kullanılabilir. ECC ise bellek alt sistemine hata tespit ve düzeltme özellikleri ekler; RISC-V işlemciler üzerine yapılan araştırmalar da ECC korumalı belleği hata toleransını artırmanın bir yolu olarak inceliyor. 1

Yine de birleşik bellek tüm bant genişliği sınırlarını ortadan kaldırmaz. Yalnızca farklı hesaplama bloklarının verilere erişme biçimini değiştirir. Gerçek fayda; bellek bant genişliğine, yazılım yığınına, zamanlayıcıya ve kullanılan iş yüküne bağlı olacaktır.

Entegre video ve yapay zekâ yolları

Bildirilen tasarım, video kodlama ve kod çözmeyi yapay zekâ hesaplamasıyla aynı platformda birleştiriyor. Bu, video girişinden analize ve üretilen içerikten kodlamaya kadar daha doğrudan bir yol oluşturmayı amaçlıyor. 35

Önerilen iş akışı kabaca şöyle:

• Video platform üzerinde kodu çözülerek işlenmeye başlanır.
• Kareler ilgili yapay zekâ yolunun erişebileceği bellekte tutulur.
• Anlama veya üretim işlemi, farklı cihaz sınırları arasında sürekli veri taşımadan yürütülür.
• Çıktı yine aynı entegre sistem üzerinde kodlanır.

Bu, tüm işlemlerin tek ve bölünemez bir adımda gerçekleştiği anlamına gelmez. Amaç, normalde ayrı işlemciler ve bellek sistemleri arasında oluşan gereksiz geçişleri azaltmaktır.

GC3 maliyet, güç tüketimi ve gecikmeyi nasıl azaltmayı hedefliyor?

Çipin ekonomik vaadi doğrudan mimarisinden geliyor. Bir iş yükü daha az veri kopyalıyor, belleğe daha az kez gidip geliyor ve cihazlar arasında daha az senkronizasyon gerektiriyorsa, enerji ve zamanın daha küçük bir bölümü veri taşımaya harcanabilir. Bu yaklaşım; çoklu akış video analizi, yerel video işleme ve büyük ara tensörler üreten video oluşturma sistemleri için yararlı olabilir. 3

Potansiyel kazanımlar üç başlıkta toplanabilir:

• Gecikme: Kod çözme, yapay zekâ ve kodlama aşamaları arasındaki aktarım sayısı azalırsa giriş karesinden sonuca giden yol kısalabilir.
• Güç: Veri hareketinin azalması, bellek erişimi ve bağlantı trafiği için harcanan enerjiyi düşürebilir.
• Maliyet: Tek bir entegre platform, birden fazla özel cihazı koordine etmenin altyapı ve işletme yükünü azaltabilir.

Bunlar mevcut haberlerde aktarılan mimari hedeflerdir; bağımsız olarak doğrulanmış sonuçlar değildir. Kaynaklar temel teknik özellikleri ve mimari gerekçeyi sunuyor, ancak video başına dolar maliyetinde, akış başına watt tüketiminde veya uçtan uca milisaniye cinsinden gecikmede ölçülmüş bir düşüş ortaya koymuyor.

Teknik özellikler bize ne söylüyor, ne söylemiyor?

Bildirilen 200 TOPS değeri INT8 yapay zekâ hesaplama kapasitesini ifade eder; belirli bir uygulamadaki performansı garanti etmez. Gerçek video yapay zekâsı kapasitesi model uyumluluğuna, hassasiyet seviyesine, bellek bant genişliğine, derleyici ve çalışma zamanı desteğine, video formatlarına, toplu işlem boyutuna, eş zamanlı akış sayısına ve veri akışı zamanlayıcısının verimliliğine de bağlıdır.

Benzer şekilde 128 GB birleşik bellek, büyük modelleri ve ara verileri barındırmaya yardımcı olabilir. Ancak kapasite tek başına belirli bir video üretim modelinin verimli çalışacağını göstermez. Yazılım desteği ve gerçek bellek trafiği belirleyici olmaya devam eder.

Sonuç

Jingang GC3, video yapay zekâsı işlem hattını veri yerelliği etrafında yeniden tasarlamaya yönelik özel bir girişim olarak değerlendirilebilir. Bildirilen veri akışı yürütmesi, RISC-V kontrol çekirdekleri, CPU/VPU/GPU/NPU yollarının entegrasyonu ve 128 GB birleşik belleği; geleneksel CPU-GPU sistemlerinde maliyet yaratabilen veri aktarımlarını ve senkronizasyon engellerini hedefliyor. 35

Donanım ve yazılım beklendiği gibi birlikte çalışırsa bu mimari, çoklu akış video analizini ve video üretimini daha verimli hâle getirebilir. Ancak şu aşamada savunulabilecek en güçlü sonuç, GC3’ün makul bir mimari strateji ve üretici kaynaklı dikkat çekici teknik özellikler sunduğudur. Daha düşük maliyet, güç tüketimi veya gecikme sağladığı ise henüz bağımsız testlerle kanıtlanmış değil.