Suxian Micro’nun TUCA ve TH1100 hamlesi: Fiziksel yapay zekâ için önce görüntü işleme yaklaşımı

Suxian Micro, nesnelerin interneti ve otomotiv odaklı grafik/ekran işlemcilerinden bedenlenmiş yapay zekâ donanımına geçiş yapmaya çalışıyor. Tianjin’deki lansmanın odağında iki unsur vardı: birleşik heterojen hesaplama mimarisi TUCA ve şirketin ilk uç yapay zekâ çıkarım çipi olarak tanımladığı Tianheng TH1100 GPGPU SoC’si.

Bu hamlenin önemi, şimdilik doğrulanmış bir performans liderliğinden çok ürün yol haritası ve platform stratejisinde yatıyor. Bağımsız kıyaslama verileri henüz sınırlı. 4

Ekran çiplerinden yapay zekâ hesaplamasına

Şirketin önceki ürünleri, bu dönüşümün çıkış noktasını gösteriyor. Suxian Micro’ya göre GC9002 ve GC9005, 2023’te sırasıyla düşük güç tüketimli ve daha yüksek performans gerektiren IoT ekran senaryoları için işlevsel doğrulama sürecini tamamladı. GC9005’in iki adet 32 bit RISC-V çekirdeği, grafik çekirdeği, NPU ve 3.840 × 2.160’a kadar görüntü çıkışı desteği sunduğu belirtiliyor. 7

Bir iş ortağı duyurusu da GC9005’i; tümleşik bellek, 2,5D grafik hızlandırma, çoklu ortam işlevleri ve yerelde ses tanıma ile yüz algılama gibi uç görevler için derin öğrenme hızlandırıcısı içeren, grafik odaklı bir MPU olarak tanımlıyor. 16

Bu geçmiş, şirketin güncel tezini açıklıyor: Yapay zekâ hızlandırmayı tamamen ayrı bir iş kolu gibi ele almak yerine, grafik, görsel etkileşim ve uç sistem entegrasyonu birikiminin üzerine inşa etmek.

“Önce görüntü işleme, sonra yapay zekâ” ne demek?

Suxian Micro stratejisini “önce render, sonra yapay zekâ” olarak tanımlıyor. Şirkete göre robotlar, akıllı araçlar ve endüstriyel uç cihazlar gibi fiziksel yapay zekâ ürünleri yalnızca model çıkarımına değil; gerçek zamanlı görsel hesaplamaya ve hızlı tepki veren heterojen sistemlere de ihtiyaç duyuyor.

Şirketin çerçevesinde grafik teknolojileri, yapay zekâ iş yüklerinin sonradan eklenebileceği programlanabilir paralel hesaplama ve geliştirici araçları temelini oluşturuyor. Bu yolu, NVIDIA’nın grafik donanımından genel amaçlı GPU hesaplamasına ve yapay zekâya uzanan gelişimiyle karşılaştırıyor. 4

Bu, görüntü işlemenin bedenlenmiş yapay zekâ sorununu tek başına çözdüğü anlamına gelmiyor. Daha çok bir ürün konumlandırması: Fiziksel sistem kuran müşterilerin yalnızca tepe işlem gücüne değil; algılama, görselleştirme, kontrol, model dağıtımı ve cihaz entegrasyonunu kapsayan çalışır bir teknoloji yığınına ihtiyacı var.

Şirketin öne çıkardığı üç teknik unsur

Suxian Micro’nun fiziksel yapay zekâ yaklaşımında üç teknoloji öne çıkıyor. Bu faydalar, ayrıntılı teknik dokümantasyon ve tekrarlanabilir testlerle desteklenene kadar şirket beyanı olarak değerlendirilmelidir.

Uçtan uca GPU IP yığını

Suxian Micro, GPU IP’den sistem yazılımına ve araçlara uzanan, dikey biçimde geliştirilmiş bir yığından söz ediyor. Şirketin mevcut internet sitesinde GC9000 serisi için ürün seçimi bilgileri, SDK’lar, çip destek paketleri, veri sayfaları ve geliştirme araçları bulunuyor; bu da yazılım desteğinin önceki ürün yaklaşımının bir parçası olduğunu gösteriyor. 3

Yeni yapay zekâ platformunda hedef; donanım, derleyiciler, çalışma zamanı yazılımı, sürücüler, işletim sistemi desteği, algoritmalar ve senaryoya özgü çözümleri birlikte koordine etmek. Olası avantaj, grafik, görme ve çıkarım iş yüklerini bir araya getiren sistemlerde müşterinin entegrasyon ve taşıma işini azaltmak olabilir. 4

Çip içi hesaplama-depolama bütünleşmesi

Şirket ayrıca hesaplama birimleri ile harici bellek arasındaki veri hareketini azaltmayı amaçlayan “çip içi hesaplama-depolama bütünleşmesi” yaklaşımını öne çıkarıyor. Bellek trafiği, gecikmeyi, enerji tüketimini ve sistem tasarımını etkilediği için uç çıkarımda pratik bir kısıt oluşturuyor. Suxian Micro, yaklaşımının depolama ile hesaplama arasındaki yerelliği artırdığını belirtiyor. 4

AI ROM

AI ROM, belirli model parametrelerinin veya ağırlıklarının çip içindeki kalıcı belleğe yerleştirilmesi yaklaşımı olarak sunuluyor. Şirket, bunun depolama maliyetini ve güç tüketimini düşürürken token üretimini iyileştirebileceğini söylüyor. 4

Buradaki tasarım dengesi açık: Sabit çip içi depolamada tutulan ağırlıklar belirli ve dar tanımlı dağıtımlarda fayda sağlayabilir; ancak modellerin kolayca değiştirilebildiği harici belleğe kıyasla esneklik azalabilir. Şirket; kapasite, güncelleme yöntemi, desteklenen model biçimleri veya ortaya çıkacak performans kazanımı hakkında bağımsız değerlendirme yapmaya yetecek teknik ayrıntıyı henüz kamuya açıklamadı.

TUCA: Donanımın arkasındaki ortak yazılım katmanı

TUCA — Thorsianway Unified Computing Architecture — Suxian Micro’nun GPGPU, yapay zekâ hızlandırıcıları ve heterojen hesaplama donanımları için önerdiği ortak katman. Şirket, mimarinin uygulama geliştirme ve operatör derlemesinden çalışma zamanı zamanlamasına ve donanım yürütmesine kadar tüm zinciri kapsadığını belirtiyor. 4

Pratik hedef, geliştiricilere model ve hesaplama iş yüklerini devreye almak için daha birleşik bir yol sunmak. Böylece her hızlandırıcı için ayrı düşük seviye araç zincirleri kurmak gerekmeyebilir. Bu özellikle, alan uzmanlığı güçlü fakat derleyici, çalışma zamanı, model optimizasyonu veya heterojen sistem entegrasyonunda sınırlı kurum içi deneyimi bulunan endüstriyel müşteriler açısından önemli olabilir.

Şirket, geliştiricilere yönelik ortam olarak TUCA Playground’u da tanımlıyor. Amaç; uygulama ve model sisteme alma, derleme ve dağıtım, çalışmanın gözlemlenmesi ve kaynak yönetimini desteklemek. 4

TH1100 için açıklananlar ve açıklanmayanlar

Tianheng TH1100, yeni serinin ilk çipi ve bedenlenmiş zekâ uygulamalarında uç yapay zekâ çıkarımı için konumlandırılıyor. Lansman haberlerinde öne çıkan teknik değer, 100 TOPS yapay zekâ hesaplama gücü. Suxian Micro çipi ayrıca FP16 desteği, bütünleşik hesaplama-depolama yaklaşımı ve 35B-A3B seyrek mixture-of-experts dil modeli dağıtımıyla ilişkilendiriyor. 4

35B-A3B tanımı genel olarak toplamda yaklaşık 35 milyar parametreli, ancak token başına yaklaşık 3 milyar parametresi etkinleşen bir modeli ifade eder. Bu yapı, aynı toplam parametre sayısındaki yoğun modele göre etkin hesaplama miktarını azaltabilir. Ancak bu bilgi tek başına bir cihazın hızını, gecikmesini, bellek ihtiyacını veya enerji tüketimini kanıtlamaz. 4

Eksik bilgiler, açıklanan başlık kadar önemli. Kamuya açık lansman haberlerinde çekirdek sayısı, FP16 işlem hacmi, bellek kapasitesi ve bant genişliği, güç tüketim aralığı, niceleme yöntemi, bağlam uzunluğu, batch boyutu ya da ölçülmüş saniye başına token verisi için güvenilir ve eksiksiz bir teknik tablo yer almıyor. Suxian Micro ayrıntılı veri sayfası ve yeniden üretilebilir kıyaslama yapılandırmaları yayımlayana kadar, 100 TOPS değeri gerçek iş yüklerinde diğer hızlandırıcılarla doğrudan karşılaştırılabilir bir ölçüt olarak görülmemeli. 4

TH1800 ve TH24K0 yol haritası

Suxian Micro, TH1800’ü 2027 sonu için, TH24K0’ı ise 2028 için planladığını açıkladı. Her iki ürün de daha büyük bedenlenmiş yapay zekâ ve dil modeli hesaplama katmanlarına yönelik konumlandırılıyor. Şirket, bunları daha üst sınıf GPU rekabetine ve büyük ölçekli fiziksel yapay zekâ sistemlerine doğru adımlar olarak sunuyor. 4

Bu planlar, teslim edilmiş performansı değil şirketin hedeflerini gösteriyor. Yol haritasını değerlendirenlerin, gelecekteki rekabet iddialarını bağımsız olarak ölçülmüş ve piyasaya sunulmuş donanımdan ayırması gerekiyor.

Tianjin seçimi ve tam yığın yaklaşımının önemi

Tianjin’deki genel merkez lansmanı yalnızca şirket adresi değişikliği olarak sunulmuyor. Suxian Micro’nun tezi, ticarileşmenin Pekin–Tianjin–Hebei bölgesindeki üretim, otomotiv, robotik, araştırma ve uygulama ortaklarına yakınlıktan yararlanacağı yönünde. 4

Dolayısıyla şirketin ticari önerisi yalnızca işlemci satmaktan daha geniş. Yapay zekâ yeteneğine ihtiyaç duyup derin yapay zekâ sistemleri deneyimi olmayan müşteriler için çip donanımı, algoritmalar, araçlar, referans tasarımlar ve senaryoya özel teslimat vurgulanıyor. Şirket, yerel olarak kontrol edilen teknoloji ve tedariki de ithal çip erişimi ile tedarik zinciri belirsizliklerine yanıt olarak çerçeveliyor. 4

Sonuç

Suxian Micro’nun en güçlü farklılaşma iddiası, henüz bütünüyle belgelenmiş bir performans üstünlüğü değil. Şirket; uç grafik deneyimini, heterojen yazılımı, bellek farkındalıklı tasarımı ve dağıtım hizmetlerini fiziksel yapay zekâ için tek bir platformda birleştirmeyi deniyor.

TH1100’ün 100 TOPS iddiası ve TUCA’nın duyurulması bu stratejiyi somutlaştırıyor; Tianheng yol haritası ise şirketin ulaşmak istediği yönü gösteriyor. Buna karşılık gerçek çıkarım hızı, bellek yapılandırması, güç verimliliği, model uyumluluğu, geliştirici ekosisteminin olgunluğu ve seri üretim erişilebilirliği gibi belirleyici soruların yanıtı için ürün dokümantasyonu ve bağımsız testler gerekecek. 4