AWS Graviton5: 192 Çekirdek, 3nm ve Matematiksel Olarak Kanıtlanmış Bir Bulut Hipervizörü

• Çekirdek Sayısı: Tek bir kalıp üzerinde 192 adede kadar Armv9 Neoverse V3 çekirdeği. Bu, Graviton4'ün 192 çekirdeğe ulaşmak için kullandığı çift soketli NUMA (96 çekirdek x 2) mimarisini tamamen ortadan kaldırıyor .
• Üretim Süreci: Büyük ölçüde TSMC'ye atfedilen 3nm sınıfı üretim teknolojisi .
• Saat Hızı: Neoverse V3 çekirdeklerinde 3.1 GHz .
• L3 Önbellek: 180 MB paylaşımlı önbellek. Bu, Graviton4'ün 36 MB'lık önbelleğine göre 5 katlık bir artış anlamına geliyor ve çekirdek başına düşen L3 önbellek miktarı 2.6 katına çıkmış durumda .
• Bellek: DDR5-8800'e kadar destekleyen 12 DDR5 denetleyici. Bu, lansman anında büyük bir bulut sağlayıcısı tarafından sunulan en hızlı DDR5 hızıdır .
• G/Ç (I/O): Sekiz denetleyici üzerinden PCIe Gen 6 desteği .
• Çekirdekler Arası Gecikme: Tek soketli tasarımın doğrudan bir sonucu olarak Graviton4'e kıyasla %33 daha düşük gecikme süresi .

Graviton4'ün çift soketli tasarımından, tek parça (monolitik) bir Graviton5 kalıbına geçiş, soketler arası iletişimden kaynaklanan tüm ek yükü ortadan kaldırıyor. Özellikle gerçek zamanlı çıkarım iş hatları, bellek içi veritabanları veya büyük ölçekli mikroservis filoları gibi birçok çekirdeğe yayılan iş yükleri için, gecikme süresindeki bu azalma, döngü başına komut (IPC) iyileştirmelerinden bağımsız olarak bile ölçülebilir verim artışları sağlayabiliyor.

Graviton4'e (M8g) Göre Performans Kazanımları

AWS'nin yayınladığı nesiller arası iyileştirmeler, resmi kaynaklar, üçüncü taraf analizleri ve erken müşteri kıyaslamalarıyla tutarlılık gösteriyor:

İşlem ve Verim:

• Genel işlem performansında M8g'ye kıyasla %25'e varan artış
• Web uygulaması sunumunda %35'e varan hızlanma
• CPU üzerinde makine öğrenimi çıkarımında %35'e varan hızlanma
• Veritabanı iş yüklerinde %30'a varan hızlanma

G/Ç ve Bant Genişliği:

• Ağ bant genişliği: Tüm boyutlarda daha yüksek; en büyük örnekler, eşdeğer M8g yapılandırmalarına kıyasla ağ verimini iki katına çıkarabiliyor
• EBS bant genişliği: Ortalama olarak yaklaşık %20 daha yüksek; en büyük kazanımlar yine en büyük örneklerde görülüyor

Gerçek Dünya Müşteri Sonuçları:

• ClickHouse, sıfır kod değişikliği ile M8g'ye kıyasla %36 performans artışı gözlemledi .
• Honeycomb, üretim ortamındaki gözlemlenebilirlik iş yüklerini altı aylık bir A/B testi sonucunda, Graviton4'e kıyasla çekirdek başına %36 daha iyi verim elde etti .
• HubSpot, MySQL veritabanları için M9g'yi devreye aldı ve sorgu sürelerinde %60'a varan düşüş gördü .

Bu rakamlar mimari değişikliklerle örtüşüyor. 5 kat daha büyük L3 önbellek, özellikle geniş çalışma setleri üzerinde dolaşan veritabanı ve analitik iş yükleri için maliyetli DRAM erişimlerini azaltıyor. Daha hızlı DDR5-8800 bellek ve PCIe Gen 6 G/Ç, önceki nesillerde verimi sınırlayan bant genişliği darboğazlarını ortadan kaldırıyor. Tek soketli tasarıma geçiş ise, NUMA mimarilerinde ölçeklenen uygulamaların ödediği gecikme vergisini düşürüyor.

M9gd Varyantı: Yerel NVMe SSD Depolama

Yüksek hızlı, geçici depolamanın doğrudan sunucuya bağlı olmasını gerektiren iş yükleri için AWS, M9gd varyantını sunuyor. Bu örnekler, aynı Graviton5 işlem platformunun üzerine yerel NVMe tabanlı SSD blok depolama ekliyor ve bir önceki neslin yerel depolama teklifine kıyasla %30 daha yüksek IOPS ile birlikte 11.4 TB'a kadar yerel NVMe SSD kapasitesi sağlıyor .

M9gd varyantı, büyük ölçekli önbellek filoları, log işleme hatları ve gerçek zamanlı analitik motorları gibi iş yüklerini hedefliyor. Bu tür senaryolarda veriyi işlemciye mümkün olduğunca yakın tutmak, sorgu gecikmesini ve verimi doğrudan etkiliyor. Daha hızlı çekirdekler, daha düşük çekirdekler arası gecikme ve daha yüksek yerel depolama IOPS'sinin birleşimi, M9gd'yi depolama-işlem arasındaki mesafeyi kapatmaktan fayda sağlayan tüm iş yükleri için doğal bir seçenek haline getiriyor.

"Etmen Tabanlı Yapay Zeka" (Agentic AI) için Konumlandırma

Graviton5 ile ilgili en dikkat çekici konumlandırma değişikliklerinden biri, AWS'nin etmen tabanlı yapay zeka (agentic AI) iş yüklerini açıkça hedeflemesi . Bu tür sistemler, büyük dil modelleri ve diğer üretken yapay zeka tekniklerini kullanarak gerçek zamanlı akıl yürütme, kod üretimi ve çok adımlı görev orkestrasyonu gerçekleştiriyor.

GPU ve hızlandırıcı örnekleri eğitim ve büyük toplu çıkarım tartışmalarına hakim olsa da, ölçeklenebilir etmen tabanlı yapay zeka farklı bir işlem deseni yaratıyor: Model çıkarım adımları ile orkestrasyon mantığı arasında gidip gelen, çok turlu etkileşimler için katı gecikme bütçeleri olan, sürekli ve yüksek verimli bir CPU işi. AWS, Graviton5'in %33 daha düşük çekirdekler arası gecikme süresi, 5 kat daha büyük önbelleği ve örnek başına yüksek çekirdek sayısının, GPU ekonomisi olmadan üretim ölçeğinde çalışması gereken bu iş yükleri için onu oldukça uygun kıldığını savunuyor .

Nitro Isolation Engine: Resmi Olarak Doğrulanmış İlk Bulut Hipervizörü

Ham performansın ötesinde, Graviton5 platformuna yapılan teknik açıdan en önemli ekleme, altıncı nesil AWS Nitro Sistemi'nin yeni bir bileşeni olan Nitro Isolation Engine .

Rust programlama dilinde uygulanan Nitro Isolation Engine, aynı kiracı altında barındırılan sanal makineler arasındaki izolasyonu sağlamaktan sorumlu, minimal ve amaca yönelik olarak inşa edilmiş bir hipervizör bileşenidir . Onu üretim ortamındaki diğer tüm hipervizörlerden ayıran şey ise resmi doğrulama (formal verification) sürecinden geçmiş olmasıdır: AWS, Isabelle kanıt asistanını kullanarak aşağıdakileri matematiksel olarak kanıtlayan makine tarafından kontrol edilebilir kanıtlar üretmiştir :

• Bellek güvenliği ve çalışma zamanı hatalarının olmaması
• İşlevsel doğruluk (uygulamanın, belirtimleriyle birebir eşleşmesi)
• Bilgi akış kontrolü (sanal makine durumları arasında hiçbir veri sızıntısı olmaması)

Pratikte bu, AWS'nin bir müşterinin iş yüklerinin bir diğerinin verilerine erişemeyeceğini veya yürütülmesine müdahale edemeyeceğini ve AWS operatörlerinin de aynı izolasyon sınırlarına tabi olduğunu matematiksel bir kesinlikle garanti edebilmesi anlamına geliyor . AWS, Nitro Isolation Engine'in uygulamasını ve ilgili kanıtları müşteri incelemesine açma taahhüdünde bulundu .
Motor, M9g örneklerinde varsayılan olarak etkindir . Bu, bulut güvenlik güvencesinde bir paradigma değişimini temsil ediyor: Operasyonel kontroller ve denetim anlatılarından, temel izolasyon katmanı hakkında makine tarafından kontrol edilebilir garantilere doğru bir geçiş.

Erken Benimseyenler ve Ekosistem

İsmi açıklanan erken benimseyenler ve kıyaslama ortakları arasında Meta, Snowflake, Uber, Honeycomb, SAP, Atlassian ve ClickHouse ile birlikte performans verisi açıklamalarıyla tespit edilen HubSpot ve diğerleri yer alıyor .

Müşteri tarafından raporlanan sonuçlar birden fazla iş yükü kategorisini kapsıyor:

• Veritabanları: Snowflake, Graviton4'te %20-60 performans kazancı bildirdi ve Graviton5'e genişliyor ; HubSpot, M9g'de MySQL sorgu sürelerinin %60'a kadar düştüğünü gördü .
• Gözlemlenebilirlik: Honeycomb, Graviton4'e kıyasla çekirdek başına %36 daha iyi verim elde etti .
• Analitik: ClickHouse, Graviton4'te ortalama %25-30 sorgu iyileştirmesi ve Graviton5'te %36 iyileştirme gözlemledi .
• Uygulama Sunumu: Atlassian'ın Jira ve Confluence'ı Graviton4'e taşıması, verimde %30 artış ve maliyetlerde %25 azalma sağladı .

Bu sonuçlar, Graviton benimseme eğrisinde görünen kalıpları yansıtıyor: Çoğu iş yükü, x86'dan Arm'a geçiş yaparken sıfır veya minimum kod değişikliği ile anında performans iyileştirmeleri görüyor ve bu kazanımlar, silikon geliştikçe nesiller boyunca birleşerek artıyor .

Büyük Resim: Bu Ne Anlama Geliyor?

Graviton5, Arm tabanlı sunucu silikonlarının bir maliyet optimizasyonu alternatifinden ana akım bir performans tercihine dönüştüğü bir dönemde geliyor. AWS'deki yeni CPU kapasitesinin yarısından fazlası son üç yıldır Graviton üzerinde çalışıyor ve en büyük 1.000 EC2 müşterisinin %98'i halihazırda Graviton tabanlı örnekleri kullanıyor .

3nm sürecinde monolitik 192 çekirdekli bir kalıp, PCIe Gen 6 desteği, DDR5-8800 bellek ve resmi olarak doğrulanmış iş yükü izolasyonunun eklenmesiyle Graviton5, yalnızca AWS'nin kendi örnek aileleri için değil, müşterilerin bulut tabanlı işlemden makul olarak bekleyebilecekleri şeyler için de çıtayı yükseltiyor: Operasyonel vaatlerden ziyade matematiksel kanıtlarla desteklenen performans, enerji verimliliği ve güvenlik garantileri.

M9g ve M9gd örneklerinin genel kullanıma sunulması, bu yeteneklere artık standart EC2 benimseme yollarıyla erişilebileceği anlamına geliyor. İşlem odaklı C9g ve bellek odaklı R9g varyantlarının da yakında piyasaya sürülmesi bekleniyor .