CUDA’nın gücü yalnızca NVIDIA ekran kartlarından gelmiyor. Derleyiciler, kütüphaneler, hazır çekirdekler, çalışma zamanları, geliştirme araçları ve model sunum altyapısından oluşan geniş ekosistem, geliştiricilerin AI iş yüklerini NVIDIA donanımına göre oluşturup optimize etmesini kolaylaştırıyor.
Modular’ın karşı önerisi ise farklı hesaplama türlerini hedefleyebilen ortak bir yazılım akışı. Platform; yapay zekâ çıkarımını CPU’lar, GPU’lar ve özel amaçlı hızlandırıcılar üzerinde çalıştırmayı, böylece her donanım ailesi için ayrı bir uygulama sürdürme ihtiyacını azaltmayı amaçlıyor.
Açıklanan donanım yönelimi Qualcomm Snapdragon sistemleri, AMD platformları ve GPU’ları, NVIDIA GPU’ları, Apple silikonunu, AWS Trainium’u, Google TPU’larını ve Qualcomm’un veri merkezi hızlandırıcılarını kapsıyor. “Her çipte her model” fikri ise şu aşamada tüm hedeflerde aynı destek düzeyi, olgunluk veya performansın garanti edildiği anlamına gelmiyor; bu, Modular’ın ortaya koyduğu hedef olarak okunmalı.
Yaklaşım başarılı olursa geliştiriciler, kullandıkları model ve çekirdek kodunun daha büyük bölümünü koruyup yalnızca alttaki silikon platformunu değiştirebilir. Böylece dil, derleyici, çalışma zamanı, çekirdekler ve model sunum katmanlarından oluşan stratejik etki, tek bir GPU üreticisinden bağımsız, donanım üreticileri arasında çalışan bir yazılım katmanına kayabilir.
AMD’nin kamuya açık biçimde projeye destek vermesi dikkat çekici. Çünkü AMD, AI PC’ler ve hızlandırıcılar dahil olmak üzere çeşitli yapay zekâ donanımı pazarlarında Qualcomm’un rakibi. Buna rağmen AMD’nin Qualcomm’a ait bir yazılım katmanını desteklemesi, üreticiler arası taşınabilirliğin geliştiricileri kapalı bir donanım ekosisteminde tutmanın avantajından daha değerli olabileceğini gösteriyor.
Bu destek, Modular’ın satın alma sonrasında yalnızca Qualcomm’a özel bir yazılım sarmalayıcısına dönüşeceği yönündeki endişelere de güçlü bir yanıt sunuyor. AMD’nin yanı sıra NVIDIA, Apple, AWS ve Google donanımlarına yapılan göndermeler, projenin çoklu silikon hedefini güçlendiriyor. Ancak bu durum, tüm hedeflerde üretim ortamına hazır ve eşdeğer performans bulunduğunun kanıtı değil; daha çok projenin yönü açısından bir güven sinyali.
Mojo 1.0, heterojen AI iş yükleri için tasarlanmış, kararlı ve üretim kullanıma hazır genel amaçlı bir programlama dili olarak sunuluyor. Dilin benimsenme vaadi, Python’a yakın kullanım kolaylığını sistem düzeyinde performans ve CPU, GPU ile diğer hızlandırıcılara programlama erişimiyle birleştiriyor.
Python ile birlikte çalışabilme özelliği bu yaklaşımın merkezinde yer alıyor. Geliştiriciler, alışık oldukları Python odaklı iş akışlarından tamamen kopmadan performans açısından kritik yapay zekâ kodlarında daha düşük seviyeli yeteneklere erişebiliyor. Modular ayrıca Mojo’yu CPU ve GPU çalışmalarını birleştiren bir programlama modeli olarak tanımlıyor; daha geniş platform ise ek hızlandırıcı türlerini hedefliyor.
Derleyici ve araçların açılması da en az dilin kendisi kadar önemli. Dışarıdaki geliştiriciler artık uygulamayı inceleyebilir, katkı sunabilir, dili yeni platformlara taşıyabilir ve Apache 2.0 ile LLVM istisnalarının sunduğu şartlar altında uygulamaları oluşturup dağıtabilir.
Duyuru sırasında Mojo macOS ve Linux’u destekliyordu. Yerel Windows desteğinin ileride sunulacağı belirtilirken, Windows kullanıcıları dili Windows Subsystem for Linux üzerinden çalıştırabiliyordu.
Qualcomm, Modular’ı satın alarak veri merkezlerinden uç cihazlara, kişisel bilgisayarlardan endüstriyel uygulamalara kadar üretken ve otonom yapay zekâ yazılımlarındaki konumunu güçlendirmeyi hedefliyor. Mojo’nun açık kaynak yapılması, kullanıcıların önce Qualcomm donanımı satın almasını gerektirmeyen, geliştirici odaklı bir giriş noktası oluşturuyor.
Bu stratejinin olası getirileri doğrudan lisans gelirinin ötesine geçiyor:
Temel bahis şu: Yazılım erişimi, donanım fırsatları yaratabilir. Modular farklı çip ailelerinde yaygın kullanılan bir çıkarım katmanına dönüşürse Qualcomm, son dağıtım Snapdragon veya Qualcomm veri merkezi hızlandırıcısı üzerinde çalışmasa bile yapay zekâ yığınında etkili bir rol kazanabilir.
Duyuru ikna edici bir yön ortaya koyuyor; ancak rekabet testi günlük kullanımda yapılacak. Geliştiricilerin donanım kapsamını, çekirdek kalitesini, model uyumluluğunu, hata ayıklama araçlarını, dağıtım süreçlerini, Windows desteğini ve CUDA tabanlı yerleşik çözümlere kıyasla performansı değerlendirmesi gerekecek.
Şimdilik en doğru sonuç daha sınırlı: Qualcomm’a ait Modular, Mojo ile geliştirici katmanını açtı ve çok üreticili bir AI yazılım ekosistemi kurma yolunda ilerliyor. Ancak ModCon’da adı geçen tüm hızlandırıcılarda CUDA düzeyinde olgunluk ve performans sunan tek bir açık yazılım yığını oluşturduğunu henüz kanıtlamış değil.