AMD og Intel vil samle deres optimeringsarbejde for PyTorch på x86-processorer i open source-biblioteket oneDNN. AMD planlægger at integrere optimeringer fra sit ZenDNN-projekt, så udviklere får en fælles softwarevej på tværs af de to producenters processorer. Annonceringen beskriver en plan – ikke en færdig leverance – og indeholder hverken en tidsplan eller ydelsesmålinger.
2
3
18
Hvad har AMD og Intel meldt ud?
Efter en anbefaling fra x86 Ecosystem Advisory Group har selskaberne valgt oneDNN som standardbibliotek til open source-acceleration af x86 i PyTorch. AMD vil integrere ZenDNN-optimeringerne i oneDNN, samtidig med at virksomheden fortsætter med at optimere til sine egne processorer.
2
18
Målet er at gøre det lettere at udvikle og optimere PyTorch-opgaver til både AMD- og Intel-CPU'er uden at skulle vedligeholde separate softwareveje for hver producent. Intels Jeff McVeigh har beskrevet ambitionen sådan, at udviklere ikke skal behøve at håndtere særskilte veje for at udnytte x86-CPU'ernes ydeevne.
1
Den offentliggjorte information går ikke i detaljer med de tekniske kriterier, som rådgivningsgruppen lagde vægt på i sin anbefaling. Selskaberne fremhæver i stedet en fælles løsning, der skal forenkle udviklingen og mindske fragmenteringen.
1
2
Hvad betyder ZenDNN-integrationen?
Intel begyndte udviklingen af oneDNN, som i dag hører under Unified Acceleration Foundation (UXL). AMD's ZenDNN er et bibliotek med optimeringer til AMD's Zen-arkitektur. Planen er at føre AMD's arbejde ind i det fælles oneDNN-projekt – ikke at stoppe med at tilpasse software til de enkelte processorer.
2
6
13
18
AMD er også blevet styringsmedlem i UXL. Det giver virksomheden en rolle i fondens styring, men de tilgængelige oplysninger beskriver ikke nærmere, hvilke stemmerettigheder AMD får, eller præcis hvordan det påvirker beslutningerne i projektet.
2
9
Tidsplanen er stadig ukendt
Selskaberne har ikke oplyst en slutdato for integrationen, en bestemt PyTorch-version eller en oneDNN-version, hvor ZenDNN-arbejdet bliver tilgængeligt. De har heller ikke offentliggjort målte ydelsesforbedringer.
3
4
AMD og Intel planlægger desuden fremtidige opdateringer af oneDNN med understøttelse af AI Compute Extensions (ACE), som er udviklet til at accelerere matrixmultiplikation. En release candidate af oneDNN 3.14 indeholder allerede indledende understøttelse af ACE-instruktioner, men funktionen er ikke slået til som standard. Den skal aktiveres særskilt med ONEDNN_MAX_CPU_ISA=AVX10_2_ACE. Det fortæller ikke, hvornår ACE bliver tilgængelig gennem PyTorch.
7
10
For udviklere er den konkrete nyhed altså en plan om et fælles bibliotek og en fælles integrationsvej – ikke en ændring, der allerede er rullet ud i alle PyTorch-installationer. Hvornår arbejdet bliver færdigt, og hvad det betyder for ydeevnen, er endnu uvist.