Perplexitys hybrid-AI-orchestrator fordeler opgaver mellem din pc og skyen i realtid

Processen følger fire tydelige trin:

• Lokal vurdering: Små modeller, der kører direkte på din pc's NPU eller GPU, scanner først opgaven for at identificere følsomme, fortrolige eller compliance-relevante data .
• Lokal udførelse: Enhver underopgave, der berører disse følsomme data – som at læse en fortrolig PDF eller analysere en privat finansiel model – udføres udelukkende på enheden. Disse oplysninger forlader aldrig din maskine .
• Skydelegering: De ikke-følsomme, men beregningskrævende dele af opgaven, såsom bred websøgning eller kompleks ræsonnering, der kræver en mere kraftfuld model, dirigeres til AI-agenter i skyen .
• Rekombination: Når både de lokale og sky-baserede modeller er færdige, samler orkestratoren resultaterne til et enkelt, sammenhængende svar.

Dette er ikke en simpel beslutning baseret på filstørrelse eller opgavetype. Som Srinivas forklarede, er det orkestratoren, der "ræssonnerer om, hvilket arbejde der skal køre på din enhed, og hvilket arbejde der skal sendes til agenter i skyen" i realtid .

De vigtigste funktioner, der driver virksomhedsadoption

Computex-annonceringen fremhævede flere kernefunktioner, der positionerer denne orkestrator til virksomhedsbrug:

Chip-uafhængig af design
Selvom demoen på scenen udelukkende brugte Intel-hardware, understregede Perplexity, at orkestratoren ikke er låst fast til Intels økosystem. I et interview efter keynoten kaldte administrerende direktør Aravind Srinivas udtrykkeligt platformen for "chip agnostic", designet til at fungere på tværs af silicium fra forskellige leverandører . Den første lancering på Intel-drevne Windows-pc'er er en partnerskabsmilepæl, ikke en permanent binding .

Massiv multi-model orkestrering
Orkestratoren opererer inden for Perplexitys bredere 'Computer' AI-operativsystem, som kan koordinere op til 20 forskellige AI-modeller på én gang. For enhver given underopgave vælger systemet den optimale model baseret på dens kapacitet, hastighed og omkostninger – hvilket sikrer, at du ikke bruger en slegge til at knække en nød .

En ægte privatlivsbrandmur
For regulerede brancher som finans og sundhedspleje er det ikke til forhandling at holde følsomme data væk fra tredjeparters skyservere. Orkestratoren fungerer som en privatlivsvogter, der sikrer, at compliance-relevante dokumenter analyseres lokalt, før nogen ikke-følsom kontekst nogensinde sendes til skyen for berigelse .

Betydelig omkostningsreduktion
At køre hver eneste virksomheds-AI-forespørgsel gennem en cloud-baseret frontløbermodel bliver uoverkommeligt dyrt. Ved intelligent at flytte enklere eller private opgaver til en NPU på enheden estimeres den hybride tilgang at reducere inferensomkostningerne med 30 til 50 procent .

Intel-partnerskabet: Lokal silicium møder skyens hjerne

Live-demoen på Computex viste en bærbar computer drevet af Intels nye Core Ultra Series 3-processor, bygget på virksomhedens avancerede 18A-processnode . Demonstrationen afslørede, hvordan en private equity-analytiker kunne indlæse et projekt med kodenavnet "Project Falcon" – komplet med fortrolighedserklæringer, finansielle modeller og fortrolige udskrifter – og få den lokale Intel-silicium til at håndtere den følsomme dokumentanalyse, mens skyagenter samtidig trak ekstern markedsforskning ind, alt sammen uden at eksponere private data .

Intel ramte samarbejdet som en validering af, at inferens på enheden ikke længere er en nyhed. Core Ultra Series 3'ens integrerede GPU og NPU kan håndtere meningsfulde AI-arbejdsbelastninger, der tidligere var bundet til datacentre, hvilket muliggør en ægte arbejdsdeling, der "maksimerer tokenværdi per watt" . Ved lanceringen er hybrid inferensfunktionen eksklusiv til Perplexity-appen på Intel-drevne Windows-pc'er, men orkestratorens underliggende arkitektur er designet til at understøtte en meget bredere vifte af hardware fremover .

Hvorfor Computex 2026 markerede et vendepunkt for AI-arkitektur

Perplexity-Intel-demoen var ikke et isoleret eksperiment – det var flagskibsannonceringen af et dominerende tema på Computex 2026: distributionen af AI-arbejdsbelastninger på tværs af edge og cloud.

• Økonomien er ved at skifte: At køre hver eneste agentiske AI-forespørgsel i et centraliseret datacenter er uholdbart i stor skala, både hvad angår rå dollarkurs og fysisk strømforbrug. Hybrid eksekvering letter belastningen på datacentre ved at flytte simple, lav-latens opgaver til klientenheden .
• Privatliv kræver det: I takt med at virksomhedernes adoption af AI accelererer, nægter virksomhedernes compliance-afdelinger i stigende grad at lade følsomme data røre eksterne API'er. Hybrid inferens gør AI-værktøjer anvendelige i disse strengt regulerede miljøer .
• Edge-hardware er endelig klar: Med Intels 18A-chips, der sendes på tværs af hundredvis af pc-designs, kan NPU'er på enheden nu gøre mere end bare at sløre videobaggrunde – de kan køre substantielle, intelligente AI-inferens sammen med skyagenter .

Intel brugte hele sin Computex-keynote til at understrege denne distribuerede fremtid og annoncerede komplementære partnerskaber med SambaNova, Vista Equity og Cambium for omkostningseffektiv inferens og ramte hybrid computing som det arkitektoniske grundlag for den kommende 'agentiske AI'-æra .

Budskabet er klart: Datacentret forsvinder ikke, men det er ikke længere det eneste sted, intelligens finder sted. I den hybride model, som Perplexity og Intel satser på, er fremtiden for AI en samtale mellem din enhed og skyen – orkestreret automatisk, intelligent og privat.