HP, Red Hat ve NVIDIA uçta yapay zekâ için güçlerini birleştiriyor

HP, Red Hat ve NVIDIA; veri merkezlerindeki yapay zekâ mimarisini uç noktalara da taşıması hedeflenen, açık ve kurumsal kullanıma yönelik bir platform planını duyurdu. Çözüm, HP’nin ZGX Fury yapay zekâ istasyonunu Red Hat AI Factory with NVIDIA ile birleştirerek üretim ortamındaki çıkarım işlerini kullanıcıya, uygulamaya, makineye ve verinin üretildiği noktaya daha yakın çalıştırmayı amaçlıyor. 213

Duyurunun merkezinde HP ZGX Fury var

Donanım tarafında HP ZGX Fury, NVIDIA’nın GB300 Grace Blackwell Ultra Desktop Superchip platformundan güç alıyor. HP, sistemin yerel çıkarım iş yüklerinde 20 PFLOPS’a kadar FP4 yapay zekâ performansı sunacak şekilde tasarlandığını belirtiyor. 14

Buradaki hedef yalnızca güçlü bir iş istasyonu sunmak değil. HP, donanım ve yazılımın birleşimini; merkezi veri merkezinin dışında birden fazla yapay zekâ iş yükünü çalıştırıp orkestre edebilecek kurumsal bir platform olarak konumlandırıyor. Yapının şirket içi sistemlerde, bulutta veya bu iki ortamı birlikte kapsayan kurulumlarda kullanılabilmesi öngörülüyor. 15

Red Hat AI Factory ne sağlayacak?

Red Hat AI Factory with NVIDIA, hibrit bulut ortamları için yazılım ve operasyon katmanını üstleniyor. Red Hat, bu çözümü; kendi açık hibrit bulut platformunu, yapay zekâ mühendisliği yetkinliklerini ve kurumsal operasyon araçlarını NVIDIA’nın yapay zekâ yazılımı, modelleri, mikro servisleri, ağ teknolojileri ve hızlandırılmış altyapısıyla buluşturan ortak destekli bir kurumsal teklif olarak tanımlıyor. 12

HP’nin öngördüğü kurulumda bu katmanın, yapay zekâ modelleri ve uygulamalarının uç sahalarda, veri merkezlerinde ve bulutta devreye alınmasına ve yönetilmesine yardımcı olması bekleniyor. Platform ayrıca açık ve sanallaştırılmış bir yapı olarak tanımlanıyor; iş yükü izolasyonu ve operasyonel denetim sayesinde aynı sistemde birden çok yapay zekâ iş yükünün birbirinden ayrılarak çalıştırılması hedefleniyor. 813

Çıkarımı neden verinin yanına taşımak istiyorlar?

Platformun temel yaklaşımı, model taleplerini yalnızca uzaktaki bulut altyapısında işlemek yerine verinin oluşturulduğu veya kullanıldığı yere yakın, yani yerelde ya da uçta işlemek. HP; gecikme süresi, gizlilik, veri egemenliği ve bağlantı gereksinimlerini bu seçeneğin öne çıkan gerekçeleri arasında sayıyor. 8

Bu yaklaşım, operasyonel verinin hassas olduğu, bağlantının sınırlı kaldığı veya yanıtın fiziksel bir sürece çok yakın verilmesi gereken senaryolarda anlam kazanabilir. HP’nin öne çıkardığı alanlar şunlar:

• Üretim: Modellerin makinelerin ve üretim verilerinin yakınında çalıştırılması.
• Yazılım geliştirme: Departman düzeyinde ya da şirket içinde çıkarım ve yapay zekâ destekli geliştirme iş akışları.
• Sağlık: Hassas verinin kaynağına daha yakın tutulmasının gerekebileceği kullanım alanları.
• Kamu: Bulut bağlantısının uygun olmayabileceği, internete kapalı veya izole ortamlar. 58

Bunlar önerilen kullanım alanları; belirli bir performans sonucu anlamına gelmiyor. Kurumların elde edeceği fayda model boyutlarına, veri işleme yükümlülüklerine, ağ tasarımına ve operasyon araçlarına bağlı olacak.

Şimdi ne var, neler plan aşamasında?

HP, ZGX Fury’nin siparişe açık olduğunu ve Red Hat Enterprise Linux için sertifikalandırıldığını açıkladı. 48 Buna karşılık ZGX Fury ile Red Hat AI Factory with NVIDIA’nın oluşturacağı daha geniş çözüm, genel kullanıma tamamen açılmış entegre bir hizmet olarak değil, planlanan bir platform olarak duyuruldu. 12

Şirket ayrıca müşterilerin, kullanım senaryolarını üretime taşımadan önce HP cihazlarında Red Hat AI Factory with NVIDIA çalıştıran korumalı bir ortamda bu birleşimi değerlendirebileceğini bildirdi. 2 Ancak duyuruda bu değerlendirme ortamının takvimi, uygunluk koşulları veya teknik yapılandırmasına ilişkin ayrıntı paylaşılmadı.

Kurumlar için asıl mesaj

HP’nin hamlesi, yüksek kapasiteli NVIDIA donanımını Red Hat’in hibrit yapay zekâ yazılım katmanıyla paketlemeye yönelik. Kurumlar açısından ilgi çekici nokta yalnızca açıklanan 20 PFLOPS FP4 rakamı değil; operasyonel veriye yakın üretim tipi yapay zekâ çalıştırırken uç nokta, veri merkezi ve bulut boyunca daha tutarlı bir dağıtım ve yönetim modeli kurma ihtimali. 11213

Değerlendirme yapan kuruluşların, bugün erişilebilir olan ZGX Fury donanımı ve Red Hat Enterprise Linux sertifikası ile plan aşamasındaki bütünleşik platformu — buna korumalı test ortamı seçeneği de dahil — birbirinden ayırması gerekiyor. 24