Qualcomm’ın Nvidia’ya meydan okuması: HBC ile yapay zekâ belleğinde yeni yarış

Qualcomm, Nvidia’ya karşı mücadelesini yalnızca daha hızlı bir yapay zekâ hızlandırıcısı geliştirerek vermiyor. Şirket, özellikle büyük dil modellerinin çıkarım aşamasında ortaya çıkan bellek erişimi, veri taşıma ve enerji maliyetlerini hedefleyen daha geniş bir veri merkezi platformu kuruyor.

Bu stratejinin merkezinde High Bandwidth Compute (HBC) bulunuyor. Qualcomm’un yaklaşımı; işlemciyi belleğin yanına taşımayı, sunucu işlemcilerini ve ağ bağlantısını aynı ürün ailesinde birleştirmeyi, yazılımı farklı donanımlara taşınabilir hâle getirmeyi ve bulut ile uç cihazlar arasında ortak bir dağıtım yolu oluşturmayı amaçlıyor.

Ancak kritik nokta şu: HBC şu an için Nvidia’nın veri merkezi üstünlüğünü kanıtlanmış biçimde sarsan bir ürün değil, gelecek yıllara yayılan bir yol haritası. Gerçek sınav; üretim donanımı, bağımsız performans testleri, tedarik zinciri ve müşteri kurulumlarıyla verilecek.

HBC, çıkarımın bellek darboğazını hedefliyor

Bir yapay zekâ modeli her yeni kelime ya da belirteci üretirken model ağırlıklarını tekrar tekrar bellekten okumak zorunda. Özellikle otoregresif çıkarımda bu işlem, yalnızca hesaplama gücünü değil; verinin bellek ile ana işlem birimi arasında ne kadar hızlı ve ne kadar az enerjiyle taşınabildiğini de belirliyor.

Qualcomm’un HBC tasarımı, yığılmış LPDDR bellek katmanlarının altına bir hesaplama yongası yerleştiriyor. Katmanlar, yoğun silikon içi geçişler (TSV) üzerinden birbirine bağlanıyor. Böylece uygun işlemler, verinin ana işlemciye gidip gelmesine gerek kalmadan belleğe daha yakın gerçekleştirilebiliyor. 245

Bu ayrım önemli. Qualcomm, LPDDR’nin her durumda HBM’den daha yüksek geleneksel tepe bant genişliği sunduğunu söylemiyor. Şirketin iddiası, belirli çıkarım işlemlerinde veri hareketini azaltarak paket içindeki etkin bant genişliğini ve watt başına belirteç üretimini artırmak.

Qualcomm’a göre HBC’nin Dragonfly AI250 ile ilişkilendirilen ilk nesli, kart başına 133 TB/sn etkin bellek bant genişliği ve LPDDR5X kullanan AI200’e kıyasla 18 kat artış sağlayacak şekilde tasarlanıyor. 4 Diğer raporlamalarda ise Qualcomm’un mevcut HBM uygulamalarına kıyasla watt başına altı kata kadar daha yüksek bant genişliği iddiası aktarılıyor. 813

Bu rakamları doğrudan karşılaştırmak kolay değil. Etkin bant genişliği, kart düzeyindeki bant genişliği, raf düzeyindeki bant genişliği ve tek bir HBM yığınının bant genişliği aynı ölçüm değil. Bu nedenle yüzlerce TB/sn’lik bir rakamı tek bir HBM yığınıyla karşılaştırmak, bire bir performans testi anlamına gelmiyor. Bağımsız belirteç üretim testleri yayımlanana kadar Qualcomm’un verileri mimari ve watt başına performans iddiaları olarak değerlendirilmelidir.

Samsung ve SK hynix için asıl sınav üretim olacak

Qualcomm, hesaplama katmanını tasarlayıp sistemi entegre ederken Samsung Electronics ve SK hynix’in HBC girişimine bellek ortakları olarak katıldığı bildiriliyor. Yığma ve bellek üretiminin önemli bölümünün bu tedarikçiler tarafından üstlenilmesi, ileri paketleme süreçlerini de kritik hâle getiriyor. 15

Dolayısıyla HBC yalnızca bir işlemci tasarımı değil, aynı zamanda paketleme ve üretim bahsi. Ticari başarı için bellek doğrulama süreçleri, 3D montaj verimi, ısıl davranış, test yöntemleri ve yeterli miktarda sistemin kabul edilebilir maliyetle üretilebilmesi gerekecek.

Kâğıt üzerinde güçlü görünen bir mimari; düşük üretim verimi, ısı sorunları veya sınırlı tedarik nedeniyle güvenilir ve ekonomik biçimde kurulamazsa Nvidia karşısında avantaj sağlayamayabilir.

Qualcomm’un mevcut yol haritası, ilk nesil HBC’nin ticarileşmesini 2027’ye, ikinci nesli ise 2028’e yerleştiriyor. 14 Bu nedenle HBC, veri merkezlerinde hâlihazırda kurulu Nvidia donanımlarının hemen yerini alacak bir ürün değil; birkaç ürün döngüsüne yayılan bir platform geçişi olarak görülmeli.

Dragonfly, HBC’yi tek üründen platforma dönüştürüyor

Qualcomm, Dragonfly’ı bağımsız bir hızlandırıcıdan ziyade kapsamlı bir veri merkezi portföyü olarak sunuyor. Yol haritasında yapay zekâ çıkarım sistemleri, HBC, Dragonfly C1000 sunucu işlemcisi, ağ çözümleri ve özel yonga tasarım hizmetleri yer alıyor. 1516

Dragonfly C1000; etmen tabanlı yapay zekâ, genel amaçlı iş yükleri ve yapay zekâ baş düğümleri için tasarlanan, yonga parçacığı (chiplet) tabanlı bir sunucu işlemcisi. 7 Qualcomm ile Meta da birden fazla nesli kapsayan CPU iş birliği açıkladı. İlk nesil C1000’in üretiminin 2028’in ikinci yarısında başlaması planlanıyor. 18

Bu anlaşma Qualcomm için önemli bir doğrulama sinyali. Meta’nın açıklanmış bir CPU müşterisi olması, Qualcomm’a büyük bir hiper ölçekli sunucu filosuna girme yolu sağlıyor. Ancak anlaşmanın kapsamı abartılmamalı: Bu durum tek başına Meta’nın HBC hızlandırıcılarını yüksek hacimde kullanacağını göstermiyor. Böyle bir karar; performans, güvenilirlik, yazılım desteği, tedarik, ağ entegrasyonu ve toplam sahip olma maliyetine bağlı olacak.

Yazılım, Qualcomm’un CUDA bağımlılığına yanıtı

Yerleşik bir yapay zekâ platformunu yalnızca donanımla sarsmak zor. Nvidia’nın avantajı GPU’ların yanı sıra CUDA kütüphanelerinden, araçlarından, geliştirici alışkanlıklarından ve yıllar içinde oluşan üretim deneyiminden geliyor.

Qualcomm’un Modular satın alması bu nedenle stratejik önem taşıyor. Anlaşma, Mojo programlama dili ile MAX yazılım platformunu Qualcomm’un planına ekliyor. Şirket, bu teknolojilerin üretken ve etmen tabanlı yapay zekâ iş yüklerini veri merkezinden uç ortamlara kadar desteklemesini hedefliyor. 19

Buradaki amaç taşınabilirlik: Geliştiricilerin modelleri ve iş yüklerini her donanım üreticisi için yazılım yığınını baştan kurmadan farklı işlemciler arasında çalıştırabilmesi. Modular’ın açık ekosistem yaklaşımı doğrultusunda Mojo dili ve derleyicisinin tamamen açık kaynak hâline getirildiği de bildirildi. 46

Bu yaklaşım, Qualcomm donanımını Nvidia, AMD ve diğer hızlandırıcılarla birlikte değerlendiren müşterilerin geçiş maliyetini azaltabilir. Ancak açık kaynak bir derleyici, Nvidia’nın CUDA ekosisteminin derinliğini, araç olgunluğunu ve geliştirici tabanını otomatik olarak yeniden oluşturmaz. Yerel uygulamalardan daha yüksek performans sağlandığına dair iddialar, şeffaf ve tekrarlanabilir bağımsız testlerle desteklenmediği sürece gelecek beklentisi olarak görülmeli.

Qualcomm, CPU stratejisini RISC-V yönünde de genişletiyor. Belgelenen satın alma, soruda geçen farklı isimli şirket değil, Ventana Micro Systems. Qualcomm, Ventana’nın RISC-V mühendisliği ve ekosistem çalışmalarını güçlendirdiğini söylüyor. 2354

Hugging Face, buluttan uca uzanan hattı destekliyor

Qualcomm ile Hugging Face arasındaki ortaklık; Hugging Face iş yüklerini Dragonfly veri merkezi sistemlerine taşımayı, modellerin platforma alınmasını kolaylaştırmayı ve cihazlar ile veri merkezleri arasında hibrit orkestrasyonu mümkün kılmayı amaçlıyor. 21

Bu ortaklık, Qualcomm’un daha geniş konumlandırmasını destekliyor: Şirket aynı ekosistem içinde veri merkezlerine, akıllı telefonlara, gömülü sistemlere ve fiziksel yapay zekâ uygulamalarına hizmet vermek istiyor.

Böyle bir portföyün avantajı, modelin buluttan uç cihaza kadar daha kesintisiz bir dağıtım yoluna sahip olması olabilir. Fakat geniş ürün yelpazesi tek başına Nvidia’ya alternatif oluşturmaz. Geliştiricilerin gerçek modelleri kolayca çalıştırabilmesi ve işletmecilerin üretim ortamında daha iyi ekonomi görebilmesi gerekiyor.

HBC, daha geniş bir bellek mimarisi yarışının parçası

Qualcomm’un yaklaşımı, yapay zekâ altyapısında verinin bellek ile hesaplama birimi arasında taşınmasını azaltmaya yönelik daha geniş bir sektör eğiliminin parçası.

Samsung’un LPDDR5X-PIM çözümü, düşük güç tüketimli DRAM’e işlem mantığı ekleyerek belirli işlemleri verinin depolandığı yere daha yakın gerçekleştirmeyi amaçlıyor. Samsung, gösterimlerinde geleneksel LPDDR5X’e kıyasla daha yüksek çıkarım hızı bildirdi. Hot Chips sunumuna ilişkin bağımsız haberlerde, belirtilen karşılaştırmada saniyede 81,3 belirteç ile 27 belirteç değerleri aktarıldı. 313639

SK hynix ise aynı soruna HBM tarafından yaklaşıyor. Şirketin hibrit bağlama ve iHBM çalışmaları, bellek yığınları yükseldikçe ve bant genişliği arttıkça ortaya çıkan ısı ve yoğunluk sorunlarını çözmeye odaklanıyor. 32 Ayrı bir habere göre SK hynix, hibrit bağlamanın HBM4E için hazır olmasını beklemiyor; bu geçiş daha sonraki bir HBM nesline kalabilir. 40

Samsung ayrıca yığın başına 3,6 TB/sn’ye kadar bant genişliği ve 16 Gb/sn pin hızları sunduğu belirtilen HBM4E örneklerini bildirdi. 41 Bu gelişen HBM yol haritası önemli: HBC, 2025 veya 2026’daki sabit bir HBM sürümüne karşı değil, aynı zamanda ilerleyen bellek teknolojilerine karşı yarışacak.

Eldeki kanıtlar Samsung’un CXL tabanlı MX1 cihazı, DeepX’in bunu benimsemesi veya Micron’un darboğazların kötüleştiğine ilişkin kesin uyarısı hakkındaki daha özel iddiaları doğrulamıyor. Bu ayrıntılar mevcut analizde teyit edilmiş bilgi olarak ele alınmamalı.

Qualcomm’un bundan sonra kanıtlaması gerekenler

Qualcomm’un stratejisinin mantığı net:

• Önce çıkarımı hedeflemek: HBC, bellek hareketinin belirteç ekonomisinde belirleyici olabildiği, kod çözme ağırlıklı iş yükleri için tasarlanıyor. 29
• Tüm sistemi entegre etmek: Dragonfly, tek bir yongaya bağlı kalmak yerine hızlandırıcıları, CPU’ları, ağ çözümlerini ve özel silikon tasarımını birleştiriyor. 1516
• Yazılım engelini azaltmak: Mojo ve MAX, iş yüklerini farklı donanım platformlarına daha taşınabilir hâle getirmeyi amaçlıyor. 1946
• Müşteri güveni oluşturmak: Meta’nın C1000 anlaşması, üretimin 2028’in ikinci yarısında başlaması planlanan önemli bir hiper ölçekli CPU ilişkisi sağlıyor. 18
• Geniş bir dağıtım alanı kullanmak: Hugging Face ortaklığı, Qualcomm’un buluttan uca uzanan stratejisini destekliyor. 21

Riskler de aynı ölçüde açık. HBC’nin kabul edilebilir üretim verimi ve ısıl özelliklerle piyasaya çıkması gerekiyor. Qualcomm, etkin bant genişliğini ham arayüz bant genişliğinden ayıran, iş yüküne özel ve güvenilir karşılaştırmalar yayımlamalı. Derleyici ve çalışma zamanı katmanı gerçek modelleri istikrarlı biçimde desteklemeli. Bellek ortakları teknolojiyi büyük ölçekte sağlayabilmeli. Son olarak müşteriler, bu faydaların CUDA’nın yanında yeni bir donanım ve yazılım platformu benimsemeye değeceğine ikna olmalı.

Sonuç

Qualcomm, yapay zekâ altyapısının en önemli kısıtlarından biri olan çıkarım sırasında veri hareketine odaklanan makul bir alternatif mimari tasarladı. HBC’nin temel fikri, hesaplamayı belleğin yanına taşıyarak veri transferinin enerji ve gecikme maliyetini azaltmak.

Ancak mevcut yol haritası, HBC’yi Nvidia’nın yerini almış bir çözüm değil, gelecekteki bir meydan okuma hâline getiriyor. Belirleyici dönüm noktaları; ilk nesil HBC donanımının 2027’de ortaya çıkması, C1000 üretiminin 2028’in ikinci yarısında başlaması ve bağımsız müşterilerin performans ile toplam sahip olma maliyetini doğrulaması olacak.