AMD ve Intel, PyTorch’ta x86 işlemciler için geliştirdikleri optimizasyonları açık kaynaklı derin öğrenme kütüphanesi oneDNN’de bir araya getirmeyi planlıyor. AMD, ZenDNN projesindeki optimizasyonları oneDNN’e entegre edecek; amaç, iki şirketin işlemcileri için ortak bir yazılım yolu oluşturmak. Duyuru bir planı ortaya koyuyor: entegrasyon için teslim tarihi veya performans ölçümü paylaşılmış değil.
2
3
18
Geliştiriciler için ne değişebilir?
x86 Ecosystem Advisory Group’un önerisinin ardından AMD ve Intel, oneDNN’i PyTorch’ta x86 hızlandırması için varsayılan açık kaynak kütüphane olarak belirledi. Böylece geliştiricilerin AMD ve Intel işlemcileri için ayrı yazılım yolları yönetme ihtiyacının azalması hedefleniyor.
2
18
oneDNN, CPU’larda yapay zekâ iş yüklerini verimli çalıştırmaya yardımcı olan bir kütüphane. Intel’in geliştirmeye başladığı proje bugün Unified Acceleration Foundation (UXL) tarafından yönetiliyor. AMD’nin ZenDNN optimizasyonlarının bu ortak projeye taşınması, işlemciye özel ayarların sona ereceği anlamına gelmiyor: AMD, kendi işlemcileri için optimizasyon çalışmalarını sürdüreceğini belirtiyor.
2
6
13
18
Intel yöneticisi Jeff McVeigh’in vurguladığı hedef de geliştiricilerin x86 CPU performansından yararlanmak için ayrı yazılım yollarını düşünmek zorunda kalmaması.
1 Buna karşılık, x86 Ecosystem Advisory Group’un oneDNN’i önerirken kullandığı ayrıntılı teknik ölçütler duyuruda açıklanmadı.
1
2
Entegrasyon ve takvim hâlâ net değil
Şirketler ZenDNN entegrasyonunun ne zaman tamamlanacağını, hangi PyTorch sürümünü hedeflediğini veya hangi oneDNN sürümünde yer alacağını açıklamadı. Duyuruda ölçülmüş bir performans artışı da bulunmuyor.
3
4
AMD ayrıca oneDNN’i yöneten UXL’ye yönetim kurulu üyesi olarak katıldı. Bu, AMD’nin projenin yönetiminde rol alacağını gösteriyor; ancak mevcut kaynaklar oy haklarının kapsamını veya karar alma süreçlerine etkisini açıklamıyor.
2
9
AI Compute Extensions için ilk destek var, PyTorch takvimi yok
AMD ve Intel, matris çarpımını hızlandırmak üzere tasarlanan AI Compute Extensions (ACE) için gelecekte oneDNN güncellemeleri sunmayı planlıyor. oneDNN 3.14’ün sürüm adayı ACE komutları için ilk desteği içeriyor; ancak bu destek varsayılan olarak etkin değil. Kullanmak isteyenlerin ONEDNN_MAX_CPU_ISA=AVX10_2_ACE ortam değişkeniyle seçeneği açması gerekiyor.
7
10
Sürüm adayındaki bu destek, ACE’nin PyTorch üzerinden ne zaman kullanılabilir olacağını göstermiyor. Geliştiriciler için bugünkü somut sonuç, tamamlanmış ve tüm PyTorch kurulumlarına ulaşmış bir değişiklik değil; ortak bir kütüphane etrafında şekillenen entegrasyon planı. Takvim ve gerçek dünya performans etkisi ise henüz belirsiz.
3
4
10