NVIDIA, 1,3 milyon parçalı tedarik zincirini Palantir destekli yapay zekâyla yönetiyor

NVIDIA ve Palantir, karmaşık ve kritik tedarik zincirleri için birlikte geliştirdikleri bir egemen yapay zekâ altyapısını duyurdu. Sistem ilk olarak NVIDIA’nın kendi operasyonlarında devreye alınacak; yani NVIDIA, ürünün ilk gerçek dünya kullanıcısı konumunda. 11

Buradaki yaklaşım, tedarik zinciri verisine bir sohbet botu eklemekten daha kapsamlı. Amaç; operasyonel verileri, optimizasyon yazılımını, yapay zekâ modellerini ve deneyimli planlamacıların muhakemesini kurumun denetimindeki tek bir çalışma ortamında birleştirmek.

Duyurulan altyapı neyi bir araya getiriyor?

Altyapı, NVIDIA’nın açık Nemotron modellerini Palantir Foundry ve Palantir Artificial Intelligence Platform’a (AIP) entegre ediyor. Alt katmanda ise malzemeler, tesisler, kapasite, tahsisler, taahhütler ve üretim sonuçları gibi operasyonel varlıklar ile bunların ilişkilerini modelleyen Palantir Ontology yer alıyor. Şirketlere göre bu yapı; kısıtları belirlemeye, operasyonel uzmanlığı kayda geçirmeye ve tedarik zinciri kararlarını yönlendirmeye yardımcı olacak. 116

NVIDIA açısından ilk hedef, yarı iletken üretimindeki wafer aşamasından yapay zekâ sisteminin çıktı üretmeye başladığı “ilk token” aşamasına giden süreyi kısaltmak. Şirket, bunu tedarik zincirindeki operasyonel bilgiyi sistematik biçimde kodlamak için kullanıyor. 11

Neden ilk test NVIDIA’nın tedarik zinciri?

NVIDIA’nın Vera Rubin sistemleri, planlama probleminin ölçeğini gösteriyor: Tek bir raf; işlem, bellek, ağ, güç, soğutma ve mekanik sistemlere yayılan yaklaşık 1,3 milyon bileşen içeriyor. 37

Bu kadar bağımlı parçadan oluşan bir yapıda malzeme tahsisi, basit bir elektronik tablo işi olmaktan çıkıyor. Üretim kapasitesi, bileşen bulunabilirliği, sevkiyatların tesise ulaşma zamanı veya müşterilere verilmiş önceki taahhütler planı sınırlayabiliyor. NVIDIA; senaryoları değerlendirmek ve kıt malzemeleri tesisler arasında paylaştırmak için Palantir Ontology, tedarik zinciri Komuta Merkezi ve NVIDIA cuOpt’u kullanıyor. 16

Şirketin karar ölçütlerinden biri Time of Ownership; yani malzemelerin NVIDIA’nın denetiminde kaldığı ve teslim edilmiş sisteme katkı sağlayamadığı süre. Sistem, üretim hızını sınırlayan temel darboğazın ne olduğunu ve hangi tahsis kararının bu kısıtı en iyi biçimde azaltacağını saptamayı hedefliyor. 1

Yapay zekâ sisteminde hangi bileşen ne yapıyor?

• Nemotron açık modelleri, tedarik zinciri kararları için özelleştirilebilen muhakeme katmanını sağlıyor.
• Palantir Foundry ve AIP, ekiplerin modelleri, verileri ve operasyonel iş akışlarını birlikte kullandığı veri ve uygulama ortamını oluşturuyor.
• Palantir Ontology, malzemeler, tesisler, kapasiteler, tahsisler, taahhütler ve üretim sonuçları arasındaki gerçek dünya ilişkilerini temsil ediyor. 116
• NVIDIA cuOpt, malzeme tahsisi gibi kararlar için optimizasyon ve senaryo analizini destekliyor. 1

NVIDIA’ya göre kurumun tescilli tedarik zinciri verileri, model ağırlıkları ve çıkarım süreçleri tek, yönetilen bir ortamda kalıyor. “Egemen yapay zekâ” ifadesi burada, kuruluşun hassas verileri ve uygulama ortamı üzerindeki denetimini korumasını anlatıyor. 1

Planlamacıların tecrübesi neden model eğitimine dahil edildi?

NVIDIA, yalnızca matematiksel optimizasyonun deneyimli planlamacıların kullandığı tüm bağlamı yansıtamadığını belirtiyor. Kararlar; e-postalar, hava tahminleri, jeopolitik gelişmeler, tedarikçi görüşmeleri ve kurumsal bilgi gibi yapılandırılmamış ve hızla değişen unsurlardan etkilenebiliyor. 1

Bu nedenle şirket, planlamacıların tahsis kararlarını, bu kararların gerekçelerini ve sonradan ortaya çıkan sonuçları, özelleştirilmiş bir Nemotron 3.5 Lightning modelinin sonradan eğitilmesinde veri olarak kullandı. Modelin toplam 30 milyar parametresi bulunuyor; uzmanların karışımı mimarisinde her ileri geçişte yaklaşık 3 milyar parametre etkinleşiyor. 1

NVIDIA’nın kendi geliştirme amaçlı tahsis-kararı karşılaştırmasında bildirilen sonuçlar şöyle:

Model	Bildirilen tahsis-kararı doğruluğu
Sonradan eğitilen Nemotron 3.5 Lightning	%86,7
Nemotron 3 Ultra	%55,5
Temel Nemotron 3.5 Lightning	%17,5

Bu sonuçlar NVIDIA’nın kendi geliştirme karşılaştırmasına dayanıyor. Dolayısıyla, her tedarik zincirindeki veya her kurulumdaki performansı gösteren bağımsız bir ölçüm olarak değerlendirilmemeli. 1

Son karar neden hâlâ insanlarda?

Şirketler sistemi, tedarik zinciri planlamacılarının yerine geçen tamamen otonom bir karar verici olarak sunmuyor. Malzeme tahsisi kararları önemli ticari ve operasyonel ödünleşmeler içerebilir; ayrıca modelin daha önce görmediği yeni bilgiler ortaya çıkabilir.

Bu yüzden insan planlamacılar önerileri gözden geçirmeyi, gerektiğinde değiştirmeyi ve iyileştirmeyi sürdürüyor. Bu müdahaleler, yönetişim altında tutulan yeni karar kayıtlarına dönüşerek sonraki eğitim ve operasyonel iyileştirmeler için geri besleme sağlayabiliyor. 1

Diğer kurumlara nasıl sunulacak?

NVIDIA ve Palantir, diğer kuruluşların da kendi tedarik zincirlerinde aynı mimariyi kullanabileceğini belirtiyor. Palantir Sovereign AI Operating System Reference Architecture adı verilen referans mimari, bulutta veya kurum içi altyapıda çalışacak şekilde konumlandırılıyor. Hedef kitle; hassas verilerinin denetimini elinde tutmak isteyen karmaşık sektörler ve kamu kurumları. 11

İlgili referans mimari, NVIDIA Enterprise Reference Architectures üzerine kurulu. Palantir’ın AIP, Foundry, Apollo, Rubix ve AIP Hub dâhil yazılım paketini çalıştıracak biçimde tasarlanmış. 29

Dell de altyapı ekosisteminde yer alıyor: İlgili mimari, Dell AI Factory kapsamındaki PowerEdge, ObjectScale ve PowerFlex altyapısını Palantir ve NVIDIA teknolojileriyle birleştiriyor. Eylül duyurusuna ilişkin haberlerde Cisco, Rackspace ve Nebius da donanım veya bulut kurulum seçenekleri için ortaklar arasında sayıldı. 1725

Nerede tanıtıldı?

Tedarik zinciri uygulaması ve daha geniş egemen yapay zekâ kullanım alanları, Palantir’ın AIPCon 11 etkinliğinde sergilendi. 6

Duyurunun en dikkat çekici noktası, NVIDIA’nın bu sistemi önce kendi yüksek kısıtlı tedarik zincirinde kullanması. Bu durum, alana özel modellerin, optimizasyonun ve yönetilen operasyonel verinin en karmaşık sanayi planlama ortamlarından birinde karar kalitesini ne kadar geliştirebileceğine dair gerçek kullanım koşullarında bir sınama niteliği taşıyor. 111