AMD og Intel vil samle optimaliseringsarbeidet for PyTorch på x86-prosessorer i det åpne dyplæringsbiblioteket oneDNN. AMD skal integrere optimaliseringer fra ZenDNN i biblioteket, slik at utviklere får en felles programvarevei for prosessorer fra begge selskapene. Kunngjøringen angir en plan, ikke en leveringsdato, og inneholder ingen ytelsesmålinger.
2
3
18
Hva selskapene har kunngjort
Etter en anbefaling fra x86 Ecosystem Advisory Group har AMD og Intel valgt oneDNN som standardbiblioteket med åpen kildekode for x86-akselerasjon i PyTorch. AMD planlegger å integrere ZenDNN-optimaliseringene i oneDNN, samtidig som selskapet fortsetter å optimalisere for egne prosessorer.
2
18
Målet er å gjøre det enklere å utvikle og optimalisere PyTorch-arbeidslaster for både AMD- og Intel-prosessorer, i stedet for å måtte håndtere separate programvareløp for hver leverandør. Intels Jeff McVeigh har beskrevet ambisjonen som at utviklere skal kunne utnytte ytelsen i x86-prosessorer uten å måtte forholde seg til ulike programvareveier.
1
Kunngjøringen beskriver ikke de detaljerte tekniske kriteriene som lå bak rådgivningsgruppens anbefaling av oneDNN. Den framhever likevel et felles bibliotek som en måte å forenkle utviklingen og redusere oppsplittingen på.
1
2
Slik passer ZenDNN inn i oneDNN
Intel startet utviklingen av oneDNN, som nå forvaltes av Unified Acceleration Foundation (UXL). ZenDNN er et bibliotek med optimaliseringer for AMDs Zen-arkitektur. Den planlagte integrasjonen flytter dette AMD-spesifikke arbeidet inn i det felles oneDNN-prosjektet; det betyr ikke at prosessorspesifikk optimalisering opphører.
2
6
13
18
AMD har også gått inn i UXL som styringsmedlem. Det gir selskapet en rolle i stiftelsens styring, men kildene oppgir ikke hvilke stemmerettigheter AMD har eller nøyaktig hvordan medlemskapet vil påvirke beslutningene i prosjektet.
2
9
Tidsplan og AI Compute Extensions
Selskapene har ikke oppgitt noen ferdigdato, hvilken PyTorch-utgave integrasjonen skal komme i, eller hvilken oneDNN-versjon som skal inneholde ZenDNN-arbeidet. De har heller ikke lagt fram målte ytelsesgevinster.
3
4
AMD og Intel sier at de planlegger framtidige oneDNN-oppdateringer med støtte for AI Compute Extensions (ACE), som er utviklet for å akselerere matriseproduksjon. En utgivelseskandidat for oneDNN 3.14 har allerede innledende støtte for ACE-instruksjoner, men støtten er ikke aktivert som standard. Den må slås på med miljøvariabelen ONEDNN_MAX_CPU_ISA=AVX10_2_ACE. Denne støtten i en utgivelseskandidat sier ikke når ACE blir tilgjengelig gjennom PyTorch.
7
10
For utviklere er hovedpoenget foreløpig en plan om et felles bibliotek og en felles integrasjonsvei – ikke en bekreftet endring som allerede er levert i alle PyTorch-installasjoner. Tidsplanen og den faktiske ytelseseffekten er fortsatt uavklart.