Arkitekturen bag hybrid agentic inference

Den centrale innovation ligger i Perplexity Computer OS's beslutningslag, der fungerer i realtid. Det fungerer som en "flyveleder" for AI-opgaver og ruter dynamisk arbejdsbelastninger baseret på datafølsomhed, latenstid og omkostninger .

• Lokal privatlivssfære: Mindre, specialiserede modeller kører direkte på Core Ultra Series 3'ens kombinerede CPU, GPU og NPU for at analysere dokumenter, identificere personhenførbare oplysninger (PII) og forretningshemmeligheder samt håndtere redigering af lokale filer. Dette sikrer, at fortroligt materiale aldrig uploades til en server til behandling .
• Sky-orkestrering: Når de lokale opgaver er afsluttet, sender systemet offentlige web-forespørgsler og komplekse ræsonnementsopgaver til mere kraftfulde modeller på Perplexitys cloud-servere. Dette aflaster den beregningsmæssige byrde og reducerer inferensomkostningerne med anslået 30-50 % sammenlignet med at køre alt i skyen .
• Token-værdi per watt: Intel og Perplexity beskrev systemet som en måde at maksimere "token-værdi per watt" på, ved at bruge effektiv lokal silikone til simple opgaver og reservere dyr datacenter-kraft til opgaver, der virkelig har brug for det .

Denne tilgang er ikke bare teoretisk. Computex-demoen viste denne funktion kørende på en Windows-pc med en Intel Core Ultra Series 3, men funktionen er foreløbig kun eksklusiv til den specifikke Intel-drevne Windows-version af Perplexity-appen .

Hvordan det passer ind i Intels bredere Computex 2026-strategi

Perplexity-demoen var klient-side-beviset for en meget større Intel-fortælling: at tiden med agentic AI driver en "CPU-renæssance", hvor den centrale processor bliver det kritiske orkestreringslag for store netværk af AI-agenter .

Xeon 6+ og racket med 150.000 agenter

Til datacentret annoncerede Intel Xeon 6+-processoren (Clearwater Forest), dens første server-CPU bygget på Intel 18A-processen . Et enkelt 32U væskekølet rack fyldt med disse processorer kan levere over 36.000 kerner og er designet til at understøtte op til 150.000 AI-agenter – den højeste agentic AI-beregningstæthed, Intel har hævdet . Processorerne er bygget til orkestrerings-, samtidigheds- og dataflytningskravene fra agentic-arbejdsbelastninger og genvinder strøm- og rackkapacitet i processen .

Klient- og edge-momentum

Intel gav også vigtige opdateringer om den kommercielle fremdrift af sin 18A-teknologi og annoncerede:

• Over 300 design-vindere til Core Ultra Series 3, der spænder over næsten 400 pc-designs på tværs af OEM'er .
• Over 130 edge AI-designs i drift eller under udvikling, understøttet af 4.000+ edge-økosystempartnere .

En heterogen computerfremtid

CEO Lip-Bu Tan beskrev en strategisk vision centreret omkring fire multi-billion-dollar computermarkeder: personlige computere, edge og fysisk AI, datacentre og digitale intelligenscentre . Han understregede, at fremtidens AI-infrastruktur ikke ville være monolitisk, men heterogen – der blander CPU'er, GPU'er, ASIC'er og specialbyggede chips for at håndtere specifikke arbejdsbelastninger mest effektivt . I en separat meddelelse indgik Intel et partnerskab med SambaNova og Foxconn om en ny "disaggregeret inferens"-rackskala-arkitektur, hvilket yderligere demonstrerede denne chip-agnostiske vision .

Perplexitys eget hybridspil til Mac-brugere

Computex-demoen var et Intel-partnerskab, men den underliggende hybridfilosofi strakte sig allerede til andre platforme. I maj 2026 havde Perplexity uafhængigt rullet sin Personal Computer-agent ud til alle Mac-brugere på Pro- og Enterprise-abonnementer .

Mac-versionen skaber et hybridt lokalt-og-cloud-kørselsmiljø. En Mac eller Mac mini kan køre agenten kontinuerligt, hvilket giver den sandbox-adgang til lokale filer, native apps som Mail og Kalender og Comet-webbrowseren, mens den stadig forbinder til Perplexitys sikre servere til tung orkestrering og adgang til frontlinjemodeller . Selvom den mangler den Intel-specifikke on-device AI-inferens på hardwareniveau, afspejler den den samme produktstrategi: at gøre AI'en mere dygtig ved at gøre den mere personlig, uden at gå på kompromis med sikkerheden .

Arkitekturen bag hybrid agentic inference

Den centrale innovation ligger i Perplexity Computer OS's beslutningslag, der fungerer i realtid. Det fungerer som en "flyveleder" for AI-opgaver og ruter dynamisk arbejdsbelastninger baseret på datafølsomhed, latenstid og omkostninger .

• Lokal privatlivssfære: Mindre, specialiserede modeller kører direkte på Core Ultra Series 3'ens kombinerede CPU, GPU og NPU for at analysere dokumenter, identificere personhenførbare oplysninger (PII) og forretningshemmeligheder samt håndtere redigering af lokale filer. Dette sikrer, at fortroligt materiale aldrig uploades til en server til behandling .
• Sky-orkestrering: Når de lokale opgaver er afsluttet, sender systemet offentlige web-forespørgsler og komplekse ræsonnementsopgaver til mere kraftfulde modeller på Perplexitys cloud-servere. Dette aflaster den beregningsmæssige byrde og reducerer inferensomkostningerne med anslået 30-50 % sammenlignet med at køre alt i skyen .
• Token-værdi per watt: Intel og Perplexity beskrev systemet som en måde at maksimere "token-værdi per watt" på, ved at bruge effektiv lokal silikone til simple opgaver og reservere dyr datacenter-kraft til opgaver, der virkelig har brug for det .

Denne tilgang er ikke bare teoretisk. Computex-demoen viste denne funktion kørende på en Windows-pc med en Intel Core Ultra Series 3, men funktionen er foreløbig kun eksklusiv til den specifikke Intel-drevne Windows-version af Perplexity-appen .

Hvordan det passer ind i Intels bredere Computex 2026-strategi

Perplexity-demoen var klient-side-beviset for en meget større Intel-fortælling: at tiden med agentic AI driver en "CPU-renæssance", hvor den centrale processor bliver det kritiske orkestreringslag for store netværk af AI-agenter .

Xeon 6+ og racket med 150.000 agenter

Til datacentret annoncerede Intel Xeon 6+-processoren (Clearwater Forest), dens første server-CPU bygget på Intel 18A-processen . Et enkelt 32U væskekølet rack fyldt med disse processorer kan levere over 36.000 kerner og er designet til at understøtte op til 150.000 AI-agenter – den højeste agentic AI-beregningstæthed, Intel har hævdet . Processorerne er bygget til orkestrerings-, samtidigheds- og dataflytningskravene fra agentic-arbejdsbelastninger og genvinder strøm- og rackkapacitet i processen .

Klient- og edge-momentum

Intel gav også vigtige opdateringer om den kommercielle fremdrift af sin 18A-teknologi og annoncerede:

• Over 300 design-vindere til Core Ultra Series 3, der spænder over næsten 400 pc-designs på tværs af OEM'er .
• Over 130 edge AI-designs i drift eller under udvikling, understøttet af 4.000+ edge-økosystempartnere .

En heterogen computerfremtid

CEO Lip-Bu Tan beskrev en strategisk vision centreret omkring fire multi-billion-dollar computermarkeder: personlige computere, edge og fysisk AI, datacentre og digitale intelligenscentre . Han understregede, at fremtidens AI-infrastruktur ikke ville være monolitisk, men heterogen – der blander CPU'er, GPU'er, ASIC'er og specialbyggede chips for at håndtere specifikke arbejdsbelastninger mest effektivt . I en separat meddelelse indgik Intel et partnerskab med SambaNova og Foxconn om en ny "disaggregeret inferens"-rackskala-arkitektur, hvilket yderligere demonstrerede denne chip-agnostiske vision .

Perplexitys eget hybridspil til Mac-brugere

Computex-demoen var et Intel-partnerskab, men den underliggende hybridfilosofi strakte sig allerede til andre platforme. I maj 2026 havde Perplexity uafhængigt rullet sin Personal Computer-agent ud til alle Mac-brugere på Pro- og Enterprise-abonnementer .

Mac-versionen skaber et hybridt lokalt-og-cloud-kørselsmiljø. En Mac eller Mac mini kan køre agenten kontinuerligt, hvilket giver den sandbox-adgang til lokale filer, native apps som Mail og Kalender og Comet-webbrowseren, mens den stadig forbinder til Perplexitys sikre servere til tung orkestrering og adgang til frontlinjemodeller . Selvom den mangler den Intel-specifikke on-device AI-inferens på hardwareniveau, afspejler den den samme produktstrategi: at gøre AI'en mere dygtig ved at gøre den mere personlig, uden at gå på kompromis med sikkerheden .