Arkitekturen bakom hybrid agentic inference

Den centrala innovationen ligger i beslutslagret i Perplexity Computers operativsystem. Det fungerar som en "flygledare" för AI-uppgifter och dirigerar dynamiskt arbetsbelastningar baserat på datakänslighet, latenskrav och kostnad .

• Lokalt integritetsvalv: Mindre, specialiserade modeller körs direkt på Core Ultra Series 3:s kombinerade CPU, GPU och NPU för att analysera dokument, identifiera personuppgifter (PII) och företagshemligheter samt hantera redigeringar av lokala filer. Detta säkerställer att konfidentiellt material aldrig laddas upp till en server för bearbetning .
• Molnorkestering: När de lokala uppgifterna är klara skickar systemet publika webbfrågor och komplexa resonemangsuppgifter till kraftfullare modeller på Perplexitys molnservrar. Detta avlastar beräkningsbördan och minskar inferenskostnaderna med uppskattningsvis 30–50 procent jämfört med att köra allt i molnet .
• Tokenvärde per watt: Intel och Perplexity beskrev systemet som ett sätt att maximera "tokenvärde per watt", genom att använda effektiv lokal kisel för enkla uppgifter och reservera dyr datacenterkapacitet för jobb som verkligen kräver det .

Detta är inte enbart teori. Computex-demon visade funktionen på en Windows-PC med en Intel Core Ultra Series 3, även om funktionen tills vidare är exklusiv för den specifika Intel-drivna Windows-versionen av Perplexity-appen .

Hur det passar in i Intels bredare Computex-strategi

Perplexity-demon var beviset från klient-sidan för en mycket större berättelse från Intel: att eran av agentisk AI driver en "CPU-renässans", där den centrala processorn blir det kritiska orkestreringslagret för stora nätverk av AI-agenter .

Xeon 6+ och racket med 150 000 agenter

För datacentret presenterade Intel Xeon 6+-processorn (Clearwater Forest), dess första server-CPU byggd på Intel 18A-processen . Ett enda 32U vätskekylt rack fyllt med dessa processorer kan leverera över 36 000 kärnor och är designat för att hantera upp till 150 000 AI-agenter – den högsta densiteten för agentisk AI som Intel hittills har hävdat . Processorerna är byggda för de krav på orkestrering, samtidighet och dataförflyttning som agentiska arbetsbelastningar ställer, samtidigt som de återtar effekt och rackkapacitet .

Framsteg inom klient och edge

Intel gav också viktiga uppdateringar om de kommersiella framstegen för sin 18A-teknik och meddelade:

• Över 300 designvinster för Core Ultra Series 3, som spänner över nästan 400 PC-designer från olika OEM-tillverkare .
• Över 130 edge AI-designer i drift eller under utveckling, med stöd av över 4 000 edge-ekosystempartner .

En heterogen beräkningsframtid

Vd Lip-Bu Tan beskrev en strategisk vision kring fyra flera biljoner kronor stora datormarknader: persondatorer, edge och fysisk AI, datacenter samt digitala intelligenscenter . Han betonade att framtidens AI-infrastruktur inte kommer att vara monolitisk utan heterogen – en blandning av CPU:er, GPU:er, ASIC:ar och anpassade chipp för att hantera specifika arbetsbelastningar mest effektivt . I ett separat tillkännagivande inledde Intel ett samarbete med SambaNova och Foxconn kring en ny "disaggregerad inferens"-arkitektur i rackskala, vilket ytterligare demonstrerar denna chip-agnostiska vision .

Perplexitys eget hybridspel för Mac-användare

Computex-demon var ett Intel-samarbete, men den underliggande hybridfilosofin hade redan utvidgats till andra plattformar. I maj 2026 hade Perplexity självständigt lanserat sin Personal Computer-agent för alla Mac-användare med Pro- och Enterprise-abonnemang .

Mac-versionen skapar en hybridkörning mellan lokal enhet och moln. En Mac eller Mac Mini kan köra agenten kontinuerligt, vilket ger den sandlådebegränsad åtkomst till lokala filer, inbyggda appar som Mail och Kalender samt webbläsaren Comet, samtidigt som den fortfarande ansluter till Perplexitys säkra servrar för tung orkestrering och tillgång till avancerade modeller . Även om den saknar Intels specifika AI-inferens på hårdvarunivå, återspeglar den samma produktstrategi: göra AI mer kapabel genom att göra den mer personlig, utan att kompromissa med säkerheten .

Arkitekturen bakom hybrid agentic inference

Den centrala innovationen ligger i beslutslagret i Perplexity Computers operativsystem. Det fungerar som en "flygledare" för AI-uppgifter och dirigerar dynamiskt arbetsbelastningar baserat på datakänslighet, latenskrav och kostnad .

• Lokalt integritetsvalv: Mindre, specialiserade modeller körs direkt på Core Ultra Series 3:s kombinerade CPU, GPU och NPU för att analysera dokument, identifiera personuppgifter (PII) och företagshemligheter samt hantera redigeringar av lokala filer. Detta säkerställer att konfidentiellt material aldrig laddas upp till en server för bearbetning .
• Molnorkestering: När de lokala uppgifterna är klara skickar systemet publika webbfrågor och komplexa resonemangsuppgifter till kraftfullare modeller på Perplexitys molnservrar. Detta avlastar beräkningsbördan och minskar inferenskostnaderna med uppskattningsvis 30–50 procent jämfört med att köra allt i molnet .
• Tokenvärde per watt: Intel och Perplexity beskrev systemet som ett sätt att maximera "tokenvärde per watt", genom att använda effektiv lokal kisel för enkla uppgifter och reservera dyr datacenterkapacitet för jobb som verkligen kräver det .

Detta är inte enbart teori. Computex-demon visade funktionen på en Windows-PC med en Intel Core Ultra Series 3, även om funktionen tills vidare är exklusiv för den specifika Intel-drivna Windows-versionen av Perplexity-appen .

Hur det passar in i Intels bredare Computex-strategi

Perplexity-demon var beviset från klient-sidan för en mycket större berättelse från Intel: att eran av agentisk AI driver en "CPU-renässans", där den centrala processorn blir det kritiska orkestreringslagret för stora nätverk av AI-agenter .

Xeon 6+ och racket med 150 000 agenter

För datacentret presenterade Intel Xeon 6+-processorn (Clearwater Forest), dess första server-CPU byggd på Intel 18A-processen . Ett enda 32U vätskekylt rack fyllt med dessa processorer kan leverera över 36 000 kärnor och är designat för att hantera upp till 150 000 AI-agenter – den högsta densiteten för agentisk AI som Intel hittills har hävdat . Processorerna är byggda för de krav på orkestrering, samtidighet och dataförflyttning som agentiska arbetsbelastningar ställer, samtidigt som de återtar effekt och rackkapacitet .

Framsteg inom klient och edge

Intel gav också viktiga uppdateringar om de kommersiella framstegen för sin 18A-teknik och meddelade:

• Över 300 designvinster för Core Ultra Series 3, som spänner över nästan 400 PC-designer från olika OEM-tillverkare .
• Över 130 edge AI-designer i drift eller under utveckling, med stöd av över 4 000 edge-ekosystempartner .

En heterogen beräkningsframtid

Vd Lip-Bu Tan beskrev en strategisk vision kring fyra flera biljoner kronor stora datormarknader: persondatorer, edge och fysisk AI, datacenter samt digitala intelligenscenter . Han betonade att framtidens AI-infrastruktur inte kommer att vara monolitisk utan heterogen – en blandning av CPU:er, GPU:er, ASIC:ar och anpassade chipp för att hantera specifika arbetsbelastningar mest effektivt . I ett separat tillkännagivande inledde Intel ett samarbete med SambaNova och Foxconn kring en ny "disaggregerad inferens"-arkitektur i rackskala, vilket ytterligare demonstrerar denna chip-agnostiska vision .

Perplexitys eget hybridspel för Mac-användare

Computex-demon var ett Intel-samarbete, men den underliggande hybridfilosofin hade redan utvidgats till andra plattformar. I maj 2026 hade Perplexity självständigt lanserat sin Personal Computer-agent för alla Mac-användare med Pro- och Enterprise-abonnemang .

Mac-versionen skapar en hybridkörning mellan lokal enhet och moln. En Mac eller Mac Mini kan köra agenten kontinuerligt, vilket ger den sandlådebegränsad åtkomst till lokala filer, inbyggda appar som Mail och Kalender samt webbläsaren Comet, samtidigt som den fortfarande ansluter till Perplexitys säkra servrar för tung orkestrering och tillgång till avancerade modeller . Även om den saknar Intels specifika AI-inferens på hårdvarunivå, återspeglar den samma produktstrategi: göra AI mer kapabel genom att göra den mer personlig, utan att kompromissa med säkerheten .