OpenAI’nin ilk ayrıntılı Jalapeño sonuçları, şirketin büyük dil modellerini çalıştırmak için geliştirdiği özel çipin, karşılaştırmaya alınan belirli Nvidia GB200 ve GB300 sistemlerine kıyasla daha az enerjiyle daha hızlı yanıt verebileceğini öne sürüyor. SemiAnalysis’in kamuya açık InferenceX testinde OpenAI, üç açık ağırlıklı modelde watt başına 1,5-1,9 kat daha fazla yapay zekâ işi ve 1,7-3,6 kat daha düşük uçtan uca gecikme bildirdi.
Bu sonuçlar, yapay zekâ isteklerini çok büyük ölçekte işleyen OpenAI için önemli olabilir. Ancak Jalapeño’nun her yerde GPU’lardan daha hızlı veya daha ucuz olduğunu kanıtlamıyor. Test kapsamı dardı, çip yalnızca çıkarım için tasarlandı ve sonuçların temelindeki ölçümler büyük ölçüde OpenAI tarafından üretildi. 14
Öne çıkan benchmark sonuçları
OpenAI, Jalapeño’yu Nvidia’nın GB200 ve GB300 sistemleriyle SemiAnalysis tarafından yayımlanan InferenceX benchmark’ında karşılaştırdı. Bu benchmark, bir yapay zekâ isteğinin sunulması sürecini uçtan uca ölçmeyi amaçlıyor. Enerji verimliliği değerleri, hızlandırıcıların yayımlanmış güç değerleri kullanılarak normalize edildi.
OpenAI’nin raporladığı sonuçlara göre Jalapeño:
- Tepe iş hacminde, karşılaştırılan Nvidia sistemlerine kıyasla watt başına 1,5-1,9 kat daha fazla yapay zekâ işi gerçekleştirdi.
- Uçtan uca gecikmeyi 1,7-3,6 kat azalttı.
- Yüksek etkileşim gerektiren iş yüklerinde, seçilen çalışma noktalarına göre 2,1-4,1 kat daha yüksek performans sundu. 4
Sunulan sonuçlardaki en büyük gecikme farkı DeepSeek R1 670B testinde görüldü. Jalapeño bir isteği 1,65 saniyede tamamlarken GB300 tabanlı sistemin süresi 5,99 saniye olarak verildi. 1112
Bunlar göreli benchmark sonuçlarıdır; ChatGPT yanıt sürelerinin veya API fiyatlarının aynı oranlarda düşeceği anlamına gelmez. Gerçek hayattaki performans; kullanılan modele, sunum yazılımına, isteklerin gruplanmasına, ağ yapısına, bağlam ve çıktı uzunluğuna, ayrıca hedeflenen gecikme ya da iş hacmine bağlıdır.
Hangi modeller ve iş yükleri test edildi?
Karşılaştırmada üç açık ağırlıklı model kullanıldı:
| Model |
Nvidia karşılaştırması |
Bildirilen Jalapeño sonucu |
| GPT-OSS 120B |
GB200 |
Watt başına yaklaşık 1,9 kat daha fazla iş; uçtan uca gecikme 1,03 saniyeye karşı 1,80 saniye |
| DeepSeek R1 670B |
GB300 |
Watt başına yaklaşık 1,7 kat daha fazla iş; gecikme 1,65 saniyeye karşı 5,99 saniye |
| Kimi K2.5 1T |
GB300 |
Watt başına yaklaşık 1,5 kat daha fazla iş; gecikme 1,56 saniyeye karşı 5,31 saniye |
Bu rakamlar, bağımsız olarak yeniden üretilmiş eksiksiz bir test paketinden ziyade yayımlanan benchmark özetlerine dayanıyor. 61112
İş yükü nominal olarak tek turlu, 8.000 giriş token’ı ve 1.000 çıkış token’ı içeren bir senaryoydu. Bu yaklaşım kontrollü bir karşılaştırma sağlıyor; ancak çok turlu sohbetleri, araç çağrılarını, ajan iş akışlarını, değişken uzunluktaki yanıtları, istek gruplama davranışını veya çok uzun bağlamları temsil etmiyor. 813
Ayrıca benchmark, belirli donanım ve yazılım yapılandırmalarını ölçtü. Derleyicilerde, çekirdeklerde, nicemleme yöntemlerinde, zamanlamada, model mimarisinde veya Nvidia’nın çalışma zamanı yazılımında yapılacak değişiklikler farkın boyutunu değiştirebilir.
Jalapeño’nun raf ölçeğindeki tasarımı nasıl?
Jalapeño, OpenAI ve Broadcom’un büyük dil modeli çıkarımı için birlikte geliştirdiği, uygulamaya özel entegre devre yani ASIC türünde bir hızlandırıcı. Genel amaçlı GPU’ların aksine, eğitilmiş modelleri çalıştırarak yanıt üretme işlemine odaklanıyor. 15
Bildirilen sistem özellikleri şöyle:
- Raf ölçeğindeki bir sistemde 128 hızlandırıcı çip.
- Yaklaşık 1,7 exaFLOPS 4 bit işlem gücü.
- Sistem genelinde yaklaşık 27 TB yüksek bant genişlikli bellek (HBM).
- Çip başına 700 watt güç değeri. Bu değer, GB200 için yayımlanan 1.200 watt ve GB300 için yayımlanan 1.400 watt değerleriyle karşılaştırılıyor. 121419
B0 adı verilen sürümün, TSMC’nin N3P üretim sürecinde üretilen retikül ölçekli bir işlem kalıbı kullandığı ve 13,4 PFLOPS MXFP4 işlem gücü sunduğu bildirildi. 18
Tasarım yalnızca tek bir hızlandırıcıya değil, bütün bir sisteme odaklanıyor. Çok büyük modellerin yanıt üretimi sırasında çok sayıda çipe dağıtılması gerekebildiği için bellek, ara bağlantılar, ağ ve raf içi iletişim kritik önem taşıyor. 1819
Dokuz ayda nasıl tasarlandı? Yapay zekânın rolü neydi?
OpenAI ve Broadcom’un konsept aşamasından tape-out’a, yani tasarımın üretime gönderilecek son hâline ulaşmasına yaklaşık dokuz ayda geçtiği bildiriliyor. Bu, yüksek performanslı özel çipler için oldukça kısa bir süre. 720
Tasarım sürecinde yapay zekâ destekli mühendislik araçları kullanıldı. Ancak bu, bir yapay zekâ modelinin işlemciyi bağımsız biçimde tasarlayıp ürettiği anlamına gelmiyor. Mimari ve mühendislik ekipleri, Broadcom’un yarı iletken uygulama çalışmaları, üretim ortakları ve sistem entegrasyonu sürecin parçası olmaya devam etti. 713
Daha temkinli yorum şu: OpenAI, büyük dil modeli iş yüklerine dair bilgisiyle ve mühendislik sürecindeki yapay zekâ araçlarıyla donanım ve yazılımı belirli bir sunum hedefine göre birlikte tasarladı. Bu uzmanlaşma verimliliği artırabilir; karşılığında programlanabilir bir GPU’ya kıyasla esnekliği azaltır.
Neden yalnızca çıkarım için tasarlandı?
Jalapeño yeni öncü modelleri eğitmek için değil, eğitilmiş modelleri çalıştırmak için geliştirildi. Bu nedenle OpenAI’nin model eğitimi, araştırma, deneme ve sabit işlevli bir çıkarım tasarımına kolayca uymayan iş yüklerinde programlanabilir hızlandırıcılara, özellikle GPU’lara ihtiyacı sürüyor. 813
Bu ayrım, “Nvidia’yı geride bırakmak” ifadesinin kapsamını sınırlıyor. Jalapeño seçilmiş çıkarım metriklerinde test edilen Nvidia yapılandırmalarını geçebilir; ancak Nvidia donanımı OpenAI’nin eğitim ve esnek hesaplama altyapısında hâlâ önemli bir yere sahip olabilir. Uzmanlaşmış bir ASIC, öngörülebilir ve yüksek hacimli tek bir işte çok başarılı olabilir ama eğitim, araştırma ve hızlı model değişikliklerini destekleyen daha geniş platformun yerini alamaz.
Benchmark sonuçları neyi kanıtlamıyor?
Sonuçları “bu raporlanan testlerde daha iyi” şeklinde okumak gerekiyor; “genel olarak en iyi yapay zekâ sistemi” şeklinde değil. Önemli sınırlamalar şunlar:
- Testler, üretim trafiğinin tamamı yerine sabit ve görece basit bir tek turlu iş yükü kullandı. 1112
- Yayımlanan rakamlar, OpenAI’nin mühendislik örnekleri üzerinde yaptığı testlerden geldi. SemiAnalysis bağlantılı haberlerde testlerin OpenAI laboratuvarında doğrulandığı belirtilse de temel veriler yine OpenAI tarafından sağlandı. 214
- Verimlilik, yayımlanmış çip güç değerleri kullanılarak normalize edildi. Bu, karşılaştırma için yararlı olsa da veri merkezinin toplam maliyetini veya enerji tüketimini eksiksiz biçimde ölçmüyor. 11
- Derleyiciler, çekirdekler, çalışma zamanları, nicemleme, istek gruplama, ağ ve Nvidia yazılımı güncellendikçe sonuçlar değişebilir.
- Karşılaştırma, Nvidia’nın Blackwell sonrası ürünleri ya da Google, Amazon, Microsoft, AMD ve diğer sağlayıcıların en yeni veya gelecekteki sistemleri dâhil olmak üzere her yeni hızlandırıcıya karşı Jalapeño’nun performansını göstermedi. 238
Bu sonuçlara dayanarak evrensel ölçekte yüzde 50 maliyet düşüşü, garanti edilmiş daha düşük API fiyatı veya Nvidia’nın hemen devre dışı kalacağı iddia edilemez. Mevcut kanıt, belirli koşullar altında performans ve enerji verimliliği iddialarını destekliyor; daha geniş ticari sonuçları değil.
OpenAI Jalapeño’yu ne zaman kullanacak?
OpenAI, Jalapeño’yu 2026’nın sonuna kadar kendi altyapısında kullanmaya başlamayı planlıyor. Hacimli üretim ve daha geniş dağıtımın ise 2027’de başlaması bekleniyor. Uzun vadeli plan, Microsoft ve diğer altyapı ortaklarıyla birden fazla çip neslini kapsayan gigawatt ölçekli veri merkezleri kurmayı içeriyor. 16
Çip öncelikle OpenAI’nin kendi talepleri için tasarlanıyor; ticari olarak satılan bağımsız bir işlemci olması beklenmiyor. Bu nedenle diğer şirketlerin Jalapeño donanımı satın alması veya duyurulara dayanarak halka açık bir Jalapeño bulut hizmeti kiralaması beklenmemeli. 16
Donanımı içeride tutmak, OpenAI’nin çipi kendi modelleri, çekirdekleri ve sunum sistemleri için optimize etmesine olanak tanıyor. Aynı zamanda geleneksel bir yarı iletken tedarikçisi olmanın getireceği yazılım desteği, müşteri rekabeti, satış ve ekosistem yükümlülüklerinden kaçınmasını sağlıyor. Bunlar dağıtım modelinden çıkarılabilecek stratejik yorumlar; doğrulanmış plan ise çipin dışarıya satılmasından çok şirket içinde kullanılması. 16
OpenAI’nin daha geniş hesaplama stratejisindeki yeri
Jalapeño, OpenAI’nin daha geniş ve katmanlı hesaplama portföyünün bir parçası olarak görülmeli. Şirket; Microsoft ve diğer bulut kapasitesini, eğitim ve esneklik gerektiren işlerde Nvidia sınıfı GPU’ları, istikrarlı çıkarım iş yüklerinde ise uzmanlaşmanın avantaj sağlayabileceği özel çipleri birlikte kullanıyor. OpenAI’nin açıkladığı hesaplama portföyünde Microsoft, Nvidia, AWS, AMD, Broadcom, Cerebras, CoreWeave, Oracle, SB Energy ve SoftBank yer alıyor.
Bu yaklaşım, sektördeki daha geniş bir eğilimi yansıtıyor. Google TPU’larını geliştiriyor; Amazon Trainium ve Inferentia ürünlerini sunuyor; Microsoft Maia üzerinde çalışıyor; AMD genel amaçlı yapay zekâ GPU’larıyla rekabet ediyor; Nvidia ise geniş ölçüde programlanabilir sistemlerin önemli tedarikçisi olmayı sürdürüyor. Anthropic de bulut ortaklıkları üzerinden giderek daha özelleştirilmiş altyapı arayışında; ancak mevcut benchmark kanıtları Anthropic sistemleriyle doğrudan bir performans karşılaştırması sunmuyor.
Dolayısıyla kısa vadeli stratejik etki, GPU’ların yerini tamamen özel çiplerin aldığı bir hikâyeden daha karmaşık. Jalapeño, OpenAI’ye çıkarım maliyetleri, gecikme, tedarik ve donanım yol haritası üzerinde daha fazla kontrol sağlayabilir. Nvidia ise eğitim ve esnek araştırma iş yüklerinde önemini korurken, OpenAI’nin özel çipi şirketin kendi altyapısında öngörülebilir ve yüksek hacimli sunum görevleri için uzmanlaşmış bir seçenek oluşturuyor. 813
