Framework’ün yakında sunması beklenen Desktop yapılandırması, yerel yapay zekâdaki en önemli darboğazlardan birine odaklanıyor: Büyük dil modellerini (LLM) ayrı bir ekran kartına ihtiyaç duymadan belleğe sığdırmak. Sistem; AMD’nin 16 çekirdekli Ryzen AI Max+ PRO 495 işlemcisini, 192 GB’a kadar birleşik LPDDR5X-8533 belleği ve 273 GB/sn bellek bant genişliğini bir araya getiriyor. Microsoft’un ayrı bir Windows 11 denemesi ise benzer birleşik bellekli sistemlerin yönetimini kolaylaştırabilir; ancak bu özellik henüz tamamlanmış veya resmen duyurulmuş değil.
Bu iki gelişme, PC tasarımında daha geniş bir değişime işaret ediyor. Yerel yapay zekâ, yalnızca işlemci gücü değil, kapasite ve bellek bant genişliği meselesi hâline geliyor. Bu durum bulut tabanlı yapay zekânın ortadan kalkacağı anlamına gelmiyor; daha çok bilgisayarların bazı büyük modelleri kendi üzerinde çalıştırabilmesini mümkün kılıyor.
Framework’ün 192 GB’lık Desktop modeli neler sunuyor?
En üst yapılandırmada AMD’nin Ryzen AI Max+ PRO 495 işlemcisi bulunuyor. Bu işlemci 16 çekirdekli, 32 iş parçacıklı Zen 5 CPU’nun yanı sıra Radeon entegre grafik birimine ve XDNA 2 NPU’ya sahip. Framework, 192 GB birleşik LPDDR5X belleğin 273 GB/sn bant genişliği sunduğunu belirtiyor. Bu, şirketin önceki 128 GB’lık Ryzen AI Max+ 395 yapılandırmasına kıyasla kapasitede yüzde 50, bant genişliğinde ise yüzde 6,6 artış anlamına geliyor.
1
2
3
16
CPU ve entegre GPU aynı fiziksel bellek havuzunu kullandığı için Framework, bu belleğin 160 GB’a kadar olan bölümünün iGPU’ya ayrılabileceğini söylüyor. Yerel LLM kullanıcıları açısından asıl fark burada ortaya çıkıyor: Model ağırlıklarının daha büyük bir bölümü, sınırlı ekran kartı VRAM’i ile daha yavaş sistem belleği arasında bölünmeden tek bir makinede tutulabiliyor.
1
10
Bunun karşılığında 273 GB/sn, kompakt bir PC için yüksek bir değer olsa da bazı üst düzey birleşik bellek sistemlerinin sunduğu bant genişliğinin hayli gerisinde kalıyor. Belleğe sığan bir model mutlaka hızlı çalışacak diye bir kural yok. Uzun bağlam pencereleri, masaüstü uygulamaları veya aynı sistemi kullanan birden fazla iş yükü bellek bant genişliği için rekabet edebilir.
Hangi modelleri çalıştırabilir?
Framework, şirketin ön gösterimine ilişkin haberlerde yer alan bilgilere göre, DeepSeek V4-Flash’ın Q8 nicemlenmiş bir sürümünü yerel olarak çalıştırabildiğini ve bağlam için bellekte alan kaldığını gösterdi.
7
14 Başka bir rapor ise 192 GB’lık yapılandırmanın yaklaşık 284 milyar parametreli bir modeli belleğe sığdırabileceğini aktarıyor. Ancak bu, kullanılabilir üretim hızına ilişkin bağımsız bir kıyaslama değil, bellek kapasitesine dair bir iddia olarak değerlendirilmelidir.
4
Burada nicemleme kritik önem taşıyor. Daha düşük bitli gösterimler, model ağırlıkları için gereken bellek miktarını azaltıyor. Fakat nihai ihtiyaç; model mimarisine, çalışma zamanı yazılımının ek yüküne, bağlam penceresine ve çıkarım sırasında açık kalan diğer uygulamalara göre değişiyor.
Kısacası bellek kapasitesi, bir modelin teorik olarak yüklenip yüklenemeyeceğini belirliyor. Bant genişliği, yazılım desteği ve işlem gücü ise modelin pratikte ne kadar kullanışlı olacağını ortaya koyuyor.
Microsoft’un Windows 11 denemesi neyi değiştirebilir?
Microsoft’un, Windows 11’in 29648.1000 numaralı deneysel derlemesinde “IntelligentCarveout” adlı şirket içi bir özelliği test ettiği bildiriliyor. Derlemede bulunan metinlerde “hızlandırıcılar için ayrılmış bellek” ve “grafik ile yapay zekâ hızlandırması için bellek” ifadeleri yer alıyor. Özelliğin amacı, birleşik belleğin belirli bir bölümünü grafik ve yapay zekâ ağırlıklı uygulamalar için ayırmak; tüm bellek havuzunun dinamik olarak yönetilmesine bağlı kalmamak gibi görünüyor.
33
34
35
Bu seçenek, Windows uygulamaları ile yerel yapay zekâ çalışma zamanı aynı bellek havuzu için yarıştığında işe yarayabilir. Ayrılmış bir alan, model sunma iş yüküne daha öngörülebilir erişim sağlayabilir ve diğer programların neden olduğu bellek ayırma hatalarını azaltabilir.
Ancak IntelligentCarveout ek RAM, daha hızlı bir bellek veri yolu veya yeni bir yapay zekâ hızlandırıcısı değil. Ayrılan bellek, normal uygulamaların kullanımına da kapanıyor. Dolayısıyla yapay zekâya daha fazla bellek ayırmak, Windows ve diğer programlar için kullanılabilir alanı azaltıyor. Microsoft; son kullanıcı arayüzünü, desteklenen donanımı, çıkış takvimini veya özelliğin gerçekten yayımlanıp yayımlanmayacağını doğrulamadı.
36
40
44
Yükseltilebilirlik, işletim sistemi ve uyumluluk
Framework Desktop, birçok rakibine kıyasla daha modüler ve tamir edilebilir bir kompakt PC olarak konumlandırılıyor. Yeni yapılandırmanın açık uçlu PCIe x4 genişleme yuvasını koruması da bekleniyor. Bu yuva, kullanıcıların uyumlu genişleme donanımları eklemesine olanak tanıyabilir.
13
Bellek tarafında ise durum farklı. 192 GB LPDDR5X bellek, kullanıcı tarafından değiştirilebilen DIMM modülleri yerine anakarta entegre biçimde geliyor. Bu nedenle alıcıların seçtikleri kapasiteyi sabit kabul etmesi gerekiyor. Daha yüksek bir bellek yapılandırmasına geçiş, geleneksel RAM yükseltmesi yerine gelecekte anakart değişimi gerektirebilir.
13
Framework, Windows ve Linux odaklı kullanım senaryoları sunuyor; Linux’un önceden yüklendiği bir seçenek de listeleniyor.
2 Bununla birlikte yerel çıkarım uyumluluğu, tercih edilen çalışma zamanı ve hızlandırma yoluna bağlı kalacak. AMD tabanlı sistemler ROCm veya Vulkan gibi yazılım yığınlarını kullanabilirken, diğer birleşik bellekli kompakt platformlar Apple’ın Metal/MLX ya da NVIDIA’nın CUDA ekosistemlerine ağırlık veriyor. Bu ekosistemler birbirinin doğrudan alternatifi değil. Bir platformda çalışan model, başka bir platformda farklı bir çalışma zamanı gerektirebilir veya aynı düzeyde optimize edilmeyebilir.
19
24
Fiyat ve çıkış tarihi belirsizliğini koruyor
31 Ağustos 2026 itibarıyla Framework, 192 GB RAM’li Ryzen AI Max+ PRO 495 Desktop modelini “yakında” olarak listeliyordu. Şirket; fiyat, ön sipariş tarihi, sevkiyat tarihi veya geniş kapsamlı bir satış taahhüdü açıklamamıştı.
2
10
11
Bu nedenle performans ve fiyat-performans değerlendirmesi yapmak için henüz erken. 192 GB’lık model bir ön gösterim niteliğinde. Şirketin yayımladığı demolar; token üretim hızı, sıcaklıklar, güç tüketimi, model uyumluluğu ve uzun süreli iş yükleri açısından bağımsız testlerin yerini tutmuyor.
6
Apple ve diğer birleşik bellekli sistemlerle karşılaştırma
Framework, birleşik bellek yaklaşımını icat etmiyor; mevcut bir tasarım eğilimine katılıyor. Apple Silicon sistemleri CPU ve GPU’nun ortak bellek kullanması fikrini uzun süredir uyguluyor. Bazı yapılandırmalarda Apple’ın, M4 Max tabanlı 128 GB’lık bir sistem için 546 GB/sn gibi çok daha yüksek bant genişlikleri sunduğu bildiriliyor.
17
20
GMKtec ve Beelink gibi üreticilerin Ryzen AI Max+ 395 tabanlı kompakt sistemleri ise 128 GB paylaşımlı belleğe sahip alternatifler sunuyor. NVIDIA’nın DGX Spark sınıfı sistemleri de benzer kompakt ve yüksek bellek kapasitesini, özellikle CUDA uyumluluğunu öne çıkararak hedefliyor.
19
24
Alıcıların kararını belirleyecek temel başlıklar şöyle:
- Kapasite: Nicemlenmiş bir modelin kapsamlı veri aktarımına ihtiyaç duymadan belleğe sığıp sığmayacağını belirler.
- Bant genişliği: Çıkarım sırasında model verilerinin ne kadar hızlı taşınacağını büyük ölçüde etkiler.
- Yazılım: Hangi çalışma zamanlarının, çekirdeklerin ve model sunma araçlarının verimli çalışacağını belirler.
- Yükseltilebilirlik: Birleşik LPDDR5X bellek çoğunlukla satın alma sırasında sabitlendiği için önemlidir.
- Fiyat ve bulunabilirlik: Ön gösterimi yapılan bir yapılandırmanın gerçekten satın alınabilir bir ürüne dönüşüp dönüşmeyeceğini belirler.
Yerel yapay zekâ için daha büyük anlamı ne?
Framework Desktop’ın en dikkat çekici özelliği NPU performans puanı değil, alışılmadık derecede büyük ortak bellek havuzu. Microsoft’un önerdiği Windows kontrolü de aynı noktayı güçlendiriyor: PC’ler daha büyük modelleri yerel olarak çalıştırmaya başladıkça, işletim sisteminin bellek yönetimi yapay zekâ deneyiminin bir parçasına dönüşüyor.
Bu gelişmeler yerel bilgisayarların bulut çıkarımının yerini alacağı anlamına gelmiyor. Birleşik bellekli kompakt sistemler, bir modeli tek makinede çalıştırmak isteyen kullanıcılar için cazip. Buna karşılık bulut altyapısı; sınır düzeyindeki modeller, esnek kapasite, ekip çalışması ve çok daha yüksek çoklu GPU aktarımı gerektiren iş yükleri için avantajını koruyor.
Daha gerçekçi sonuç şu: “Yapay zekâ bilgisayarı” kavramı, yalnızca NPU destekli bir asistan çalıştıran cihazların ötesine geçiyor. Yeterli birleşik belleğe sahip küçük bir masaüstü bilgisayar, yerel bir model kutusuna dönüşebilir. Ancak bu vaadi tamamlanmış bir ürün gibi değerlendirmeden önce bant genişliği, yazılım desteği, sabit bellek, gerçek performans testleri ve kesinleşmiş satış bilgileri mutlaka incelenmeli.