Qualcomm ve Cornelis, yapay zekâ ağlarını aktif bir işlem katmanına dönüştürmek istiyor

Yapay zekâ kümeleri yalnızca daha hızlı GPU’lara ya da diğer hızlandırıcılara ihtiyaç duymuyor. Bu bileşenlerin veriyi hızlı, düzenli ve öngörülebilir biçimde birbirine aktarması da gerekiyor. Qualcomm’un Cornelis Networks ile açıkladığı iş birliğinin odağı tam olarak bu: Özellikle çıkarım (inference) yükleri ve farklı türde donanımlar içeren büyük kümeler büyürken, ağın altyapı verimliliğine katkısını artırmak.

Buradaki önemli ayrım şu: Duyuru, ortak sevkiyatı yapılan bir Qualcomm–Cornelis ürünü değil, stratejik bir iş birliği ve AI Infra Summit’te birlikte sahne alma planı. Qualcomm, Cornelis’in açık ve programlanabilir ağ dokusu vizyonunun yapay zekâ kullanım oranını ve maliyet ekonomisini iyileştirme hedefiyle örtüştüğünü belirtiyor. 57

Ana fikir: Ağı pasif hat olmaktan çıkarıp işlem katmanına dönüştürmek

Cornelis bu yaklaşımı Active Compute Fabric olarak adlandırıyor. Geleneksel olarak anahtarlar ve ağ arayüzleri paketleri bir noktadan diğerine iletir. Cornelis’in önerisinde ise ağ dokusuna programlanabilir hesaplama ve hızlandırma yetenekleri ekleniyor. Böylece bazı iletişim ve kolektif işlem görevleri, veriler ağ üzerinde ilerlerken gerçekleştirilebiliyor; tüm yük sunuculara veya yapay zekâ hızlandırıcılarına bırakılmıyor. 515

Mimari, iki bağlantı türünü kapsıyor:

• Scale-out: Küme içindeki sunucuları veya düğümleri birbirine bağlama.
• Scale-up: Raf ölçeğindeki bir sistemde hızlandırıcıları daha sıkı biçimde birbirine bağlama.

Hedef, pahalı GPU’ların ya da diğer hızlandırıcıların veri girişini bekleyerek boşta kalmasını azaltmak. Bu özellikle dağıtık yapay zekâ iş yüklerinde önem taşıyor; çünkü kolektif iletişim ve çok kaynaktan tek hedefe yönelen trafik, kolayca darboğaz yaratabiliyor. 121

Kayıpsız iletim ve ağ içi hesaplama nasıl fayda sağlamayı hedefliyor?

Cornelis, Active Compute Fabric içinde üç bileşeni bir araya getiriyor: kayıpsız iletim, ağ içi hızlandırma ve programlanabilir hesaplama. 5

Şirketin Omni-Path tabanlı CN5000 platformu için anlattığı mekanizmalar arasında kredi tabanlı kayıpsız iletim, ince taneli uyarlanabilir yönlendirme, incast farkındalığı olan akış kontrolü ve bağlantı düzeyinde yeniden oynatma bulunuyor. Basit ifadeyle bunlar, arabellek taşmalarının ve ağ tıkanıklığının veri teslimini bozmasını önlemeyi amaçlıyor. 18

Mantık açık: İletişim daha güvenilir tamamlanır ve hızlandırıcı tarafındaki ek yük azalırsa, hızlandırıcı çalışma süresinin daha büyük bölümü modeli çalıştırmaya ayrılabilir. Bu da eğitim ya da model sunumu maliyetlerini iyileştirebilir; zira ağ katmanı, çok daha pahalı hesaplama donanımının kullanım oranını korumaya yardımcı olur.

Yine de bu, henüz doğrulanmış evrensel bir sonuç değil, bir tasarım tezi. Cornelis performans karşılaştırmaları ve kullanım oranı iddiaları yayımlıyor; ancak işletmecilerin bunları kendi modelleri, kolektif iletişim desenleri, yazılım yığınları ve küme topolojileriyle değerlendirmesi gerekiyor. 15

Ürün yol haritasında bugün ne var?

Cornelis’in mimarisinin olgunluk düzeyi, ürünler arasında aynı değil:

• CN5000, SuperNIC’ler, anahtarlar, yazılım ve kablolamadan oluşan; uçtan uca 400 Gb/sn Omni-Path scale-out ağı olarak sevk ediliyor. Şirket bunu yapay zekâ ve yüksek başarımlı hesaplama (HPC) için kayıpsız ve tıkanıklık kontrollü bir sistem olarak konumlandırıyor. 17
• CN6000, yapay zekâ eğitimi, çıkarım ve HPC için yeni nesil akıllı ağ platformu. Haberler, platforma Ethernet desteğinin eklendiğini ve daha geniş erişim için hazırlandığını bildirirken; Cornelis de bunu yeni nesil scale-out ürünlerinin parçası olarak tanımlıyor. 68
• CN7000, planlanan yerleşik scale-up platformu. Sıkı bağlı, NVLink tarzı raf ölçekli bağlantılara doğrudan alternatif olma iddiası açısından yol haritasındaki en kritik unsur bu. Ancak Nvidia’nın scale-up teknolojilerinin yaygın kullanımdaki bir ikamesi değil. 219

Bu ayrım kritik: Cornelis’in ticari bir scale-out ürünü mevcut, fakat en kapsamlı scale-up vaadi hâlâ geleceğe dönük.

Açıklık ve heterojenlik neden teklifin merkezinde?

Cornelis, Active Compute Fabric’i scale-up ve scale-out ortamları boyunca açık bir mimari olarak sunuyor. Yol haritasında, tek bir hızlandırıcı tedarikçisine bağlı bir ağ yerine Ethernet, Ultra Ethernet, RoCE ve UALink ile ilişkili teknolojilere atıf yapılıyor. 1119

Bu yaklaşım, esneklik arayan altyapı işletmecileri için çekici olabilir. Teorik olarak ağ dokusu; farklı GPU’lar, CPU’lar, özel tasarım hızlandırıcılar ve diğer bileşenlerle eşleştirilebilir. Cornelis ayrıca CN5000’in AMD, Intel, Nvidia ve diğer üreticilerin hızlandırıcılarıyla birlikte çalışabildiğini söylüyor. 23

Ancak bunun karşılığında uygulama riski var. Açık ve heterojen altyapının, yalnızca bileşen düzeyindeki uyumluluğu değil; uçtan uca yazılım olgunluğunu, güçlü birlikte çalışabilirliği ve yeterli donanım tedarikini de kanıtlaması gerekir.

Qualcomm’un veri merkezi stratejisindeki yeri

Cornelis ilişkisi, Qualcomm’un yapay zekâ veri merkezi işlemcileri ve bağlantı teknolojilerinde tedarikçi olma hamlesini tamamlıyor.

Qualcomm ve Amazon, büyük ölçekli yapay zekâ çıkarımı için özelleştirilmiş silikon ve 1,6 Tb/sn’ye kadar optik bağlantı çözümlerini kapsayan çok nesilli bir iş birliği açıkladı. Reuters’ın haberine göre Amazon, anlaşma şartlarına bağlı olarak uzun vadede 60 milyar dolara kadar Qualcomm yapay zekâ veri merkezi çipi ve ilgili ürünü satın alabilir. 3324

Qualcomm ayrıca, yüksek hızlı kablolu bağlantı teknolojileri geliştiren Alphawave Semi’yi satın alma işlemini tamamladı. Şirket, bu teknolojilerin Oryon CPU ve Hexagon NPU işlemcilerini tamamladığını belirtiyor. 44

Bu gelişmeler birlikte değerlendirildiğinde Qualcomm’un hem hesaplama hem de bağlantı tarafında söz sahibi olmayı hedeflediği görülüyor. Cornelis, bu stratejiye olası bir açık ağ boyutu ekliyor; fakat şirketler henüz eksiksiz, entegre bir platform duyurmadı.

Rekabet tablosu: İnandırıcı bir yön, fakat henüz yer değiştirme değil

Cornelis, Nvidia’nın yerleşik ürünlere ve derinlemesine entegre hızlandırıcı, ağ ve yazılım ekosistemine sahip olduğu bir alana giriyor. Active Compute Fabric’in cazibesi modülerlikte yatıyor: Tek bir tescilli ağ dokusuna bağımlı kalmadan, heterojen donanım üzerinde çalışacak ve hesaplamaya katkı sunacak biçimde tasarlanmış bir ağ.

Cornelis, scale-up ve scale-out ürünlerinin geliştirilmesi, üretimi ve kurulumları için 205 milyon dolar yatırım topladı. Bu finansman, şirketin hedefini takip edecek kaynaklarını artırıyor. 57

Yine de finansman ve mimari duyuruları, pazarda Nvidia ile eşdeğerlik anlamına gelmiyor. Cornelis ve Qualcomm’un iddiası; CN6000 ve CN7000’in teslim edilen sürümlerine, yazılım desteğine, birlikte çalışabilirliğe, tedarik kapasitesine ve üretim ortamında tekrarlanabilir sonuçlara bağlı olacak. Şimdilik iş birliğini, daha iyi ağ teknolojisinin yapay zekâ altyapısındaki hızlandırıcı kullanımını yükseltebileceğine ve müşterilerin zirve performans kadar açık bir alternatife de değer vereceğine dair bir bahis olarak görmek daha doğru.