Perplexitys hybride AI-orkestrator deler oppgaver mellom din PC og skyen

Prosessen følger fire distinkte trinn:

• Lokal vurdering: Små modeller som kjører direkte på PC-ens NPU eller GPU, skanner først oppgaven for å identifisere sensitive, konfidensielle eller compliance-relevante data .
• Lokal utførelse: Enhver deloppgave som berører disse sensitive dataene – som å lese en konfidensiell PDF eller analysere en privat finansiell modell – utføres utelukkende på enheten. Den informasjonen forlater aldri maskinen din .
• Skydelegering: De ikke-sensitive, men beregningsintensive delene av jobben, for eksempel bred nettbasert research eller kompleks resonnering som krever en kraftigere modell, rutes til skybaserte AI-agenter .
• Rekombinasjon: Når både lokale og skybaserte modeller har fullført sitt arbeid, setter orkestratoren sammen resultatene til ett enkelt, sammenhengende svar.

Dette er ikke et enkelt beslutningstre basert på filstørrelse eller oppgavetype. Som Srinivas forklarte, er det orkestratoren som «resonnerer om hvilket arbeid som bør kjøres på din enhet, og hvilket arbeid som bør gå til agenter i skyen» i sanntid .

Nøkkelfunksjonene som driver bedriftsadopsjon

Kunngjøringen på Computex fremhevet flere kjernemuligheter som posisjonerer denne orkestratoren for bedriftsbruk:

Designet for å være brikkeagnostisk
Sel om stagedemoen utelukkende brukte Intel-maskinvare, var Perplexity nøye med å understreke at orkestratoren ikke er låst til Intels økosystem. I et intervju etter hovedtalen kalte administrerende direktør Aravind Srinivas eksplisitt plattformen for «brikkeagnostisk», designet for å fungere på tvers av silisium fra forskjellige leverandører . Den innledende lanseringen på Intel-drevne Windows-PCer er en partnerskapsmilepæl, ikke en permanent innelåsing .

Massiv multi-modell-orkestrering
Orkestratoren opererer innenfor Perplexitys bredere «Computer» AI-operativsystem, som kan koordinere opptil 20 forskjellige AI-modeller samtidig. For enhver gitt deloppgave velger systemet den optimale modellen basert på dens kapasitet, hastighet og kostnad – og sikrer at du ikke bruker en slegge for å knekke en nøtt .

En ekte personvernmur
For regulerte bransjer som finans og helsevesen er det ufravikelig å holde sensitive data unna tredjeparts skyservere. Orkestratoren fungerer som en personvernvakt, og sikrer at compliance-relevante dokumenter analyseres lokalt før noen ikke-sensitiv kontekst noensinne sendes til skyen for berikelse .

Betydelig kostnadsreduksjon
Å kjøre hver eneste bedrifts-AI-spørring gjennom en skybasert frontmodell blir uoverkommelig dyrt. Ved å intelligent avlaste enklere eller private oppgaver til en NPU på enheten, anslås den hybride tilnærmingen å kutte inferenskostnadene med 30 til 50 prosent .

Intel-partnerskapet: Lokal silisium møter skyhjerner

Live-demoen på Computex viste frem en bærbar PC drevet av Intels nye Core Ultra Series 3-prosessor, bygget på selskapets avanserte 18A-prosessnode . Demonstrasjonen avslørte hvordan en private equity-analytiker kunne laste inn et prosjekt med kodenavnet «Project Falcon» – komplett med NDA-er, finansielle modeller og konfidensielle transkripsjoner – og få den lokale Intelsilisiumet til å håndtere den sensitive dokumentanalysen mens skyagenter samtidig hentet inn ekstern markedsresearch, alt uten å eksponere private data .

Intel rammet inn samarbeidet som en bekreftelse på at inferens på enheten ikke lenger er en nyhet. Core Ultra Series 3s integrerte GPU og NPU kan håndtere meningsfulle AI-arbeidsmengder som tidligere var bundet til datasentre, noe som muliggjør en ekte arbeidsdeling som «maksimerer tokenverdi per watt» . Ved lansering er hybrid inferens-kapabiliteten eksklusiv for Perplexity-appen på Intel-drevne Windows-PCer, men orkestratorens underliggende arkitektur er designet for å støtte et mye bredere spekter av maskinvare fremover .

Hvorfor Computex 2026 markerte et vendepunkt for AI-arkitektur

Perplexity-Intel-demoen var ikke et isolert eksperiment – det var flaggskipkunngjøringen for et dominerende tema på Computex 2026: distribusjonen av AI-arbeidsmengder over kant og sky.

• Økonomien er i endring: Å kjøre hver eneste agentiske AI-spørring i et sentralisert datasenter er ikke bærekraftig i stor skala, verken når det gjelder rå dollarkostnad eller fysisk strømforbruk. Hybrid utførelse letter belastningen på datasentre ved å flytte enkle oppgaver med lav forsinkelse til klientenheten .
• Personvern krever det: Ettersom bedriftsadopsjonen av AI akselererer, nekter bedrifters compliance-avdelinger i økende grad å la sensitive data berøre eksterne API-er. Hybrid inferens gjør AI-verktøy brukbare i disse strengt regulerte miljøene .
• Kantmaskinvare er endelig klar: Med Intels 18A-brikker som sendes på tvers av hundrevis av PC-design, kan NPU-er på enheten nå gjøre mer enn bare å uskarpe videobakgrunner – de kan kjøre substansiell, intelligent AI-inferens sammen med skyagenter .

Intel brukte hele sin Computex-hovedtale til å forsterke denne distribuerte fremtiden, og annonserte komplementære partnerskap med SambaNova, Vista Equity og Cambium for kostnadseffektiv inferens, og rammet hybrid databehandling inn som det arkitektoniske grunnlaget for den kommende «agentiske AI»-æraen .

Budskapet er klart: Datasenteret forsvinner ikke, men det er ikke lenger det eneste stedet intelligens finner sted. I den hybride modellen som Perplexity og Intel satser på, er AIens fremtid en samtale mellom din enhet og skyen – orkestrert automatisk, intelligent og privat.