Frameworks kommende Desktop-konfiguration forsøger at løse en konkret udfordring ved lokal AI: Hvordan får man store sprogmodeller til at være i hukommelsen uden et separat grafikkort?
Svaret er en kompakt pc med AMDs 16-kernede Ryzen AI Max+ PRO 495, op til 192 GB fælles LPDDR5X-8533-hukommelse og en hukommelsesbåndbredde på 273 GB/s. Samtidig tester Microsoft en separat Windows 11-funktion, der kan gøre det lettere at styre, hvor stor en del af denne fælles hukommelse der reserveres til grafik og AI. Funktionen er dog stadig eksperimentel og ikke officielt annonceret.
Tilsammen viser udviklingen en større ændring i pc-design. Når sprogmodeller skal køre lokalt, handler flaskehalsen i stigende grad lige så meget om kapacitet og hukommelsesbåndbredde som om selve processoren. Det betyder dog ikke, at cloud-baseret AI er på vej væk.
Hvad får Frameworks Desktop med 192 GB?
Topmodellen er baseret på AMD Ryzen AI Max+ PRO 495 – en Zen 5-processor med 16 kerner og 32 tråde, integreret Radeon-grafik og en XDNA 2-NPU. Framework opgiver 192 GB fælles LPDDR5X-hukommelse med 273 GB/s båndbredde.
Det er 50 procent mere kapacitet end virksomhedens tidligere konfiguration med Ryzen AI Max+ 395 og 128 GB hukommelse. Båndbredden er samtidig 6,6 procent højere end de 256 GB/s, som den tidligere platform tilbyder.
1
2
3
16
CPU’en og den integrerede GPU bruger den samme fysiske hukommelsespulje. Framework oplyser, at op til 160 GB kan tildeles den integrerede GPU. Det er den vigtigste fordel for brugere af lokale sprogmodeller: En større del af modellens parametre kan blive i én maskine i stedet for at skulle fordeles mellem begrænset VRAM på et grafikkort og langsommere systemhukommelse.
1
10
Der er dog en vigtig bagside. 273 GB/s er meget for en kompakt pc, men betydeligt mindre end båndbredden i nogle avancerede systemer med fælles hukommelse. En model, der kan være i hukommelsen, kører derfor ikke nødvendigvis hurtigt. Lang kontekst, almindelige desktopprogrammer eller flere samtidige brugere kan også konkurrere om den samme båndbredde.
Hvilke modeller kan den køre?
Framework har demonstreret systemet med en lokalt kørende Q8-kvantiseret version af DeepSeek V4-Flash, mens der stadig var plads til kontekst, ifølge omtalen af virksomhedens forhåndsvisning.
7
14
En anden rapport beskriver 192 GB-konfigurationen som i stand til at have en model på omkring 284 milliarder parametre i hukommelsen. Det bør dog forstås som en påstand om kapacitet – ikke som en uafhængig måling af, hvor hurtigt modellen kan generere tekst.
4
Kvantificering er central i denne sammenhæng. Ved at bruge færre bits pr. parameter kan modellens vægtdata fylde mindre, men det endelige hukommelsesforbrug afhænger også af modelarkitektur, runtime-overhead, kontekstlængde og andre programmer, der kører samtidig.
Hukommelseskapaciteten afgør, hvad der potentielt kan indlæses. Båndbredde, softwareunderstøttelse og beregningskraft afgør, hvor praktisk det er at bruge modellen.
Hvad kan Microsofts Windows 11-test ændre?
Microsoft tester angiveligt en intern Windows 11-funktion med navnet »IntelligentCarveout« i den eksperimentelle build 29648.1000. Tekstrester i versionen henviser blandt andet til »Reserved memory for accelerators« og »Memory for graphics and AI acceleration«.
Det ser ud til, at formålet er at lade Windows reservere en fast del af den fælles hukommelse til grafik og AI-tunge programmer i stedet for altid at lade hele hukommelsespuljen blive fordelt dynamisk.
33
34
35
Det kan være nyttigt på systemer, hvor Windows-programmer og en AI-runtime kæmper om den samme hukommelse. En reserveret region kan give en modeltjeneste mere forudsigelig adgang og mindske risikoen for, at andre programmer udløser fejl ved hukommelsesallokering.
Men IntelligentCarveout er ikke ekstra RAM, en hurtigere hukommelsesbus eller en ny AI-accelerator. Reserveret hukommelse er samtidig utilgængelig for almindelige programmer. Hvis man afsætter mere til AI, bliver der altså mindre tilbage til Windows.
Microsoft har ikke bekræftet den endelige brugerflade, den understøttede hardware, en udgivelsesdato eller overhovedet, om funktionen kommer i en almindelig Windows-version.
36
40
44
Opgraderinger, operativsystemer og kompatibilitet
Framework positionerer Desktop som en mere modulær og reparerbar kompakt pc end mange konkurrenter. Den kommende konfiguration forventes også at bevare et åbent PCIe x4-udvidelsesstik, så ejere kan tilføje kompatibel udvidelseshardware.
13
Selve hukommelsen kan dog ikke udskiftes på normal vis. De 192 GB LPDDR5X er loddet direkte på bundkortet og består ikke af brugerudskiftelige DIMM-moduler. Købere bør derfor betragte den valgte kapacitet som fast. En senere opgradering til mere hukommelse vil typisk kræve et nyt bundkort frem for et almindeligt RAM-skift.
13
Framework angiver anvendelser med både Windows og Linux og tilbyder også en Linux-forudinstalleret version.
2 Kompatibilitet med lokal AI afhænger dog fortsat af den valgte runtime og accelerationsvej.
AMD-systemer kan benytte softwarestakke som ROCm eller Vulkan, mens andre kompakte systemer med fælles hukommelse i højere grad bygger på Apples Metal/MLX-økosystem eller Nvidias CUDA. Disse miljøer er ikke indbyrdes udskiftelige. En model, der fungerer godt på én platform, kan derfor kræve en anden runtime – eller mangle tilsvarende optimering – på en anden.
19
24
Pris og tilgængelighed er stadig uafklaret
Den 31. august 2026 stod Frameworks Desktop med Ryzen AI Max+ PRO 495 og 192 GB fortsat som »kommer snart«. Virksomheden havde ikke offentliggjort en pris, dato for forudbestilling, leveringsdato eller en bred tilgængelighedsplan.
2
10
11
Det er derfor for tidligt at konkludere noget sikkert om ydelse eller værdi. Konfigurationen er stadig en forhåndsvisning, og virksomhedens demonstrationer kan ikke erstatte uafhængige målinger af tokens pr. sekund, temperaturer, strømforbrug, modelkompatibilitet og vedvarende belastning.
6
Hvordan står den over for andre systemer med fælles hukommelse?
Framework har ikke opfundet designmønstret. Apple har i flere år bygget Apple Silicon-systemer med delt hukommelse, og nogle konfigurationer har en væsentligt højere båndbredde – blandt andet op til 128 GB ved 546 GB/s i en M4 Max-konfiguration.
17
20
Kompakte AMD-systemer med Ryzen AI Max+ 395 fra producenter som GMKtec og Beelink tilbyder alternativer med 128 GB fælles hukommelse. Nvidias DGX Spark-klasse prioriterer i stedet CUDA-kompatibilitet i et tilsvarende kompakt format med høj hukommelseskapacitet.
19
24
For købere er de vigtigste forskelle:
- Kapacitet: Afgør, om en kvantiseret model kan være i hukommelsen uden omfattende offloading.
- Båndbredde: Har stor betydning for, hvor hurtigt systemet kan flytte modeldata under inferens.
- Software: Bestemmer, hvilke runtimes, kerner og værktøjer til modelservering der fungerer godt.
- Opgraderingsmuligheder: Er vigtige, fordi fælles LPDDR5X-hukommelse normalt er fastlagt ved købet.
- Pris og tilgængelighed: Afgør, om en forhåndsannonceret konfiguration reelt er et købsværdigt alternativ.
Den større lektie for lokal AI
Den mest interessante specifikation ved Framework Desktop er ikke NPU’ens TOPS-tal. Det er den usædvanligt store fælles hukommelsespulje. Microsofts foreslåede kontrol peger i samme retning: Når pc’er skal køre større modeller lokalt, bliver operativsystemets hukommelsesstyring en del af selve AI-oplevelsen.
Det betyder ikke, at lokale pc’er vil erstatte cloud-inferens. Kompakte systemer med fælles hukommelse er attraktive, når en bruger vil køre en model på én maskine, men cloud-infrastruktur er fortsat bedre egnet til frontmodeller, fleksibel kapacitet, samarbejde og opgaver, der kræver langt højere gennemløb på flere GPU’er.
Den mere realistiske konklusion er, at »AI-pc’en« er ved at udvikle sig ud over en NPU-drevet assistent. Med tilstrækkelig fælles hukommelse kan en lille desktop blive en lokal modelserver. Men før man køber ind på løftet, bør man stadig undersøge båndbredde, softwareunderstøttelse, den fastlåste hukommelse, uafhængige benchmarks og den faktiske tilgængelighed.