Derfor skal OpenAI angivelig kjøpe titusenvis av Mac-er til AI-agenter

OpenAI skal ha kjøpt titusenvis av Mac mini- og Mac Studio-maskiner. Hvis opplysningene stemmer, handler dette først og fremst om et konkret behov i AI-utviklingen: å kjøre mange uavhengige macOS-miljøer for AI-agenter og eksperimenter med forsterkende læring. Det betyr ikke at Apple Silicon er i ferd med å erstatte GPU-klyngene som brukes til trening av de største grunnmodellene. Både antallet maskiner og den nøyaktige bruken er fortsatt ubekreftet. 111

Hvorfor AI-agenter trenger vanlige datamaskiner

En AI-agent som kan bruke en datamaskin, skal gjøre mer enn å generere tekst. Den må kanskje åpne en nettleser, klikke seg gjennom programvare, håndtere filer og tillatelser, tolke endringer på skjermen og finne en løsning når noe går galt.

For å trene og evaluere slik atferd trenger utviklerne mange gjentatte forsøk i realistiske operativsystemmiljøer. En flåte med kompakte Mac-er kan fungere som mange separate «arbeidere» som kjører macOS. Maskinene kan brukes som sandkasser for agenter, test- og evalueringsenheter, inferensendepunkter og arbeidere i forsterkende læring. Rapporter hevder også at Anthropic leier Mac-kapasitet gjennom Amazon Web Services til lignende arbeid. 126

Forskjellen fra vanlig modelltrening er viktig. I forsterkende læring kan et system gjennomføre store mengder forsøk – eller baner gjennom et miljø – og bruke resultatene til å forbedre strategien sin. Når miljøet er et ekte skrivebord med operativsystem og apper, kan det være mer praktisk å bruke faktiske maskiner enn å forsøke å gjenskape all oppførsel gjennom emulering eller virtualisering.

Fellesminnet er Apples viktigste fordel

Apple Silicon samler CPU, GPU og nevrale beregningsressurser rundt én felles minnepool. Data trenger dermed ikke flyttes mellom separat systemminne og dedikert GPU-minne på samme måte som i et tradisjonelt oppsett med CPU og separat grafikkprosessor. 5

For lokal KI kan minnekapasitet være viktigere enn et høyt tall for akseleratorytelse. Et stort fellesminne kan romme modellvekter, programtilstand, datasett og data som trengs under inferens på én maskin. Det gjør arkitekturen interessant for blant annet:

• lokal modellservering;
• inferens med kvantiserte språkmodeller;
• evaluering og koordinering av AI-agenter;
• klargjøring og forbehandling av data; og
• private eller frakoblede løsninger.

Dette fjerner ikke ulempene. Apple Silicon er ikke automatisk raskest til alle typer arbeidslaster, og en Mac med mye minne har verken det samme programvareøkosystemet eller det samme høyhastighetsnettverket mellom maskiner som en datasenterklynge med GPU-er.

Det mest sannsynlige resultatet er derfor en blandet infrastruktur: GPU-er til distribuert trening med høy gjennomstrømming, og Mac-er eller andre lokale systemer til parallelle forsøk, testing og inferens nær brukeren.

Slik passer de nye Mac-modellene inn

Apples oppdaterte stasjonære modeller gir denne strategien to tydelige maskinvareklasser. Den nye Mac mini starter på 899 dollar og kan leveres med M6 eller M5 Pro. Mac Studio starter på 2 499 dollar med M5 Max og 5 499 dollar med M5 Ultra. Apple opplyser at modellene blir tilgjengelige fra 22. september. 171826

M6 er Apples første Mac-brikke bygget med 2-nanometerteknologi, mens M5 Ultra er alternativet for de mest minnekrevende oppgavene. Apple sier at M5 Ultra kan konfigureres med opptil 512 GB fellesminne og 1,2 TB/s minnebåndbredde. Selskapet posisjonerer den for å kjøre språkmodeller med flere hundre milliarder parametre lokalt. 2133

Det gir en naturlig arbeidsdeling:

• Mac mini: Kompakte og relativt rimelige noder for mange parallelle agentmiljøer, testing og lettere inferens.
• Mac Studio: Maskiner med mer minne for utviklere, forskere, lokal modellservering og modeller som ikke får plass på vanlige forbruker-GPU-er.

Et eventuelt OpenAI-kjøp gir derfor mening som en flåtestrategi: mange mindre maskiner for uavhengige miljøer, supplert med kraftigere systemer for større modeller og utviklingsarbeid.

Hvilke modeller kan en M5 Ultra med 256 GB kjøre?

256 GB er en betydelig minnekonfigurasjon, men ikke den største M5 Ultra-varianten. Grovt regnet bør den kunne kjøre modeller i 70B-klassen uten store problemer, inkludert kvantiserte utgaver med plass igjen til operativsystem, kontekst og inferensmotor. En 70B-modell med firebits kvantisering trenger vanligvis rundt 40–48 GB tilgjengelig minne, avhengig av metode og implementasjon. 54

Den samme maskinen kan også få plass til enkelte langt større, glisne modeller eller «mixture-of-experts»-modeller i kraftig kvantisert form. Estimater for plattformen viser at visse modeller på omtrent 235–284 milliarder parametre kan få plass i et system med 256 GB, men dette er beregninger – ikke leverandørens egne ytelsesmålinger. 405051

Parametertallet alene avgjør ikke om modellen fungerer godt. Resultatet avhenger blant annet av:

• om modellen er tett eller basert på mixture-of-experts;
• hvor hardt den er kvantisert;
• kontekstlengde og behovet for KV-cache;
• hvor mye minne rammeverket bruker; og
• hvilken svarhastighet brukeren forventer.

En modell kan altså få plass på papiret, men likevel være for treg til krevende, interaktive agentoppgaver. En mindre modell kan i praksis være mer nyttig dersom den svarer raskt og kan håndtere flere oppgaver samtidig.

Hva Mac-kjøpene viser – og ikke viser

Den tydeligste konklusjonen er at AI-infrastrukturen blir bredere enn én kategori med enorme GPU-klynger. Utvikling av agenter og lokal inferens skaper etterspørsel etter mange mindre og kontrollerbare maskiner, særlig når arbeidslasten kan kjøres parallelt, trenger et ekte skrivebordsmiljø eller stiller strenge krav til personvern og forsinkelse.

Materialet som foreligger, dokumenterer ikke alle de bredere påstandene som er knyttet til saken. Opplysninger om konkrete leveranseproblemer, 29 prosent vekst i Apples Mac-inntekter eller at Nvidia ser på Apple som sin viktigste konkurrent innen lokal KI, er ikke tilstrekkelig underbygget her. De bør derfor behandles som foreløpige påstander, ikke som etablerte fakta.

Apples tydeligste mulighet ligger dermed i to deler av markedet: lokal inferens med mye minne og flåter av maskiner til utvikling og evaluering av agenter. Nvidia og andre datasenterakseleratorer vil fortsatt være sentrale for arbeidslaster som krever maksimal treningsytelse og enorme distribuerte systemer.

Fremtiden handler derfor trolig mindre om «Mac mot Nvidia» enn om arbeidsdeling. Store GPU-klynger kan håndtere frontlinjemodellene, mens Mac-er kan ta seg av parallelle agentforsøk, lokal modellkjøring, testing og oppgaver der kontroll over data og endepunkt er viktig.