ABD ve Çin Yapay Zeka Çipleri: Mimari, Performans ve Ekosistem Karşılaştırması

Mimari ve Hesaplama Performansı

ABD hızlandırıcıları, büyük ölçekli YZ eğitimi için belgelenmiş ham hesaplama verimliliğinde şu anda lider durumda. Örneğin, AMD'nin MI325X'i yaklaşık 1,3 PFLOPS FP16 performansına ulaşırken, Google'ın TPU v6e'si çip başına 918 TFLOPs bf16 sunuyor.

Huawei'nin Ascend 910C'si gibi Çin çipleri, önceki Ascend çiplerinden türetilen çift çiplet konfigürasyonuyla yaklaşık 800 TFLOPS FP16 tahminiyle bu farkı kapatmayı hedefliyor.

Biren'in BR100 hızlandırıcısı, çok kalıplı bir GPU tasarımında 256 TFLOPS FP32 hesaplama ve yaklaşık 2.048 TOPS INT8 performansına kadar ulaşarak Çin'in üst seviyedeki bir başka rekabet girişimini temsil ediyor.

Cambricon'un MLU370-X8'i, 256 TOPS INT8 ve 96 TFLOPS FP16 hesaplama kapasitesiyle YZ çıkarımı ve eğitim iş yüklerini hedefliyor.

Bellek ve Bant Genişliği

Modern YZ modelleri büyük ölçüde bellek kapasitesi ve bant genişliğine bağımlıdır, bu da HBM entegrasyonunu kritik hale getirir.

• AMD MI325X, YZ hızlandırıcıları arasındaki en büyük bellek kapasitelerinden biri olan 256GB HBM3E bellek ve yaklaşık 6 TB/s bant genişliği içerir.
• TPU v6e, yaklaşık 1,6 TB/s bant genişliğine sahip 32GB HBM kullanır, ancak TPU podlarında yüzlerce birbirine bağlı çipe ölçeklenecek şekilde tasarlanmıştır.
• Huawei Ascend 910C'nin, büyük ölçekli model iş yüklerini destekleyerek yaklaşık 3,2 TB/s bellek bant genişliğine ulaştığı bildiriliyor.
• Biren BR100, 64GB HBM2E bellek ve yaklaşık 2,3 TB/s bant genişliği içerir.

Daha yüksek bellek bant genişliği, genellikle büyük tensörleri bellek ve hesaplama birimleri arasında taşıyan matris işlemlerini ve büyük model eğitimini hızlandırmaya yardımcı olur.

Ara Bağlantı ve Ölçeklendirme

Büyük YZ modelleri nadiren tek bir çip üzerinde eğitilir. Bunun yerine, yüzlerce veya binlerce hızlandırıcı kümeler halinde birbirine bağlanır.

• Google'ın TPU v6e çipleri, 256 çipe kadar TPU podları için tasarlanmış özel bir Çipler Arası Bağlantı (ICI) ağı kullanarak bağlanır.
• Cambricon'un MLU370-X8'i, çoklu GPU eğitimi için kartlar arasında 200GB/s iletişim verimi sağlayan MLU-Link'i kullanır.
• Biren GPU'ları, çoklu hızlandırıcı kümeleri için tasarlanmış yüksek hızlı GPU'lar arası bağlantı linkleri içerir.

Küme mimarisi, tek bir çipin ham hesaplama performansı kadar önemli hale geliyor.

Üretim ve Tedarik Zincirleri

Üretim teknolojisi, performansı ve enerji verimliliğini güçlü bir şekilde etkiler.

Birçok Çinli YZ çipi, harici üretim teknolojilerine güveniyor. Örneğin, Biren'in BR100'ü TSMC'nin 7 nm süreci ve gelişmiş CoWoS paketlemesi kullanılarak üretildi.

Huawei'nin yeni nesil Ascend çipleri, SMIC'in 7 nm sınıfı sürecinde üretilen tasarımları, ABD ihracat kısıtlamalarından önce üretilmiş eski plakalarla birleştiriyor.

Buna karşılık, ABD tasarımı çipler genellikle son teknoloji düğümler ve paketleme teknolojileri üretebilen gelişmiş dökümhanelere ve tedarik zincirlerine güveniyor.

Ekosistem ve Yazılım

Donanım performansı tek başına YZ hesaplamada başarıyı belirlemez.

• ABD çipleri, CUDA (Nvidia), ROCm (AMD) ve Google'ın TPU yazılım yığını gibi olgun ekosistemlerden yararlanır.
• Huawei, yerel bir YZ yazılım ekosistemi oluşturmak için Ascend çipleri için CANN (Compute Architecture for Neural Networks) çerçevesini teşvik ediyor.

Geliştirici araçları, çerçeveler ve bulut entegrasyonu, genellikle hangi donanımın gerçek dünya YZ iş yükleri için benimsendiğini belirler.

Karşılaştırmanın Gösterdikleri

Mevcut nesil YZ hızlandırıcılarından birkaç eğilim ortaya çıkıyor:

• Performans liderliği: ABD hızlandırıcıları şu anda daha yüksek belgelenmiş tepe hesaplama ve bellek kapasiteleri gösteriyor.
• Yerel alternatifler: Çin, ABD donanımına olan bağımlılığı azaltmak için Ascend, Biren GPU'ları ve Cambricon hızlandırıcıları dahil olmak üzere birden fazla rakip çip hattı oluşturdu.
• Küme stratejisi: Her iki taraf da giderek artan bir şekilde tek tek çipler yerine büyük YZ sistemleri ve süper bilgisayar ölçeğindeki kümeler aracılığıyla rekabet ediyor.

YZ çip yarışı bu nedenle yalnızca transistör sayıları veya TFLOP'larla ilgili bir yarış değil; aynı zamanda ekosistemler, üretim kabiliyeti ve binlerce hızlandırıcıyı verimli bir YZ altyapısına ölçeklendirme yeteneği arasında bir rekabettir.

Üretken YZ modelleri büyümeye devam ettikçe, mimari, bellek sistemleri ve yazılım ekosistemlerindeki bu farklılıklar muhtemelen hangi platformların gelecekteki YZ hesaplamasına hakim olacağını belirleyecektir.