Perplexity deler AI-arbejdet mellem skyen og din Mac

Perplexitys Hybrid Compute er udviklet til Computer-agenten, så den kan kombinere to former for AI-beregning: kraftige frontier-modeller i skyen og mindre modeller, der kører direkte på en Mac med Apple Silicon. Cloudmodellerne står for webresearch, planlægning og krævende ræsonnement, mens Mac’en kan håndtere trin, der involverer private filer, følsomme oplysninger eller lokale handlinger. Computer samler derefter resultaterne i ét samlet arbejdsforløb. 1

Pointen er ikke at køre hele opgaven lokalt. I stedet beholder Hybrid Compute skyens styrke til opgaver, der har gavn af ekstern infrastruktur, og flytter de følsomme dele til brugerens Mac.

Sådan fungerer Hybrid Compute

En opgave kan begynde i skyen, hvor Perplexitys Computer-agent udfører søgninger, koordinerer arbejdsgangen og håndterer ræsonnement. Hvis et trin kræver adgang til beskyttede oplysninger eller filer på Mac’en, kan agenten sende netop denne del videre til en lokal model. Ifølge Perplexity sendes det følsomme materiale ikke til virksomhedens servere, når den lokale model udfører trinnet. 1 16

Det adskiller Hybrid Compute fra en chatbot, der udelukkende kører lokalt. Brugeren får fortsat adgang til cloudbaseret research, men kan samtidig bruge lokal inferens til fortroligt arbejde.

Privacy Gate er kontrollen før data forlader Mac’en

Den lokalt kørende Privacy Gate fungerer som bindeleddet mellem Mac’en og cloudbehandlingen. Perplexity oplyser, at en PII-klassifikator på enheden undersøger opgaveinformationen, før den sendes væk fra computeren. Det omfatter ifølge virksomheden prompts, værktøjsoutput, memory og logs samt filer og andet indhold, der indgår i opgaven. 1 5

Klassifikatoren er designet til at finde oplysninger som:

• navne og adresser
• kontonumre og loginoplysninger
• betalingskortdata
• offentlige identifikationsoplysninger
• andre følsomme hemmeligheder eller persondata 1 3

Hvis Privacy Gate registrerer potentielt følsomme oplysninger, kan brugeren gennemgå de markerede elementer og vælge, hvad der skal ske. Mulighederne omfatter at:

• beholde oplysningerne på Mac’en og behandle dem lokalt
• tillade, at oplysningerne uploades
• maskere de følsomme værdier før cloudbehandling
• afvise handlingen
• kræve udtrykkelig godkendelse, før oplysningerne sendes videre 1 3

Ved maskering erstattes følsomme værdier med pladsholdere under cloudtrinnet. Ifølge Perplexitys beskrivelse indsættes de oprindelige værdier igen i det svar, der kommer tilbage. 1 På den måde kan cloudmodellen arbejde med opgavens struktur uden at få adgang til de oprindelige identifikatorer.

Privacy Gate mindsker risikoen for utilsigtet datalæk, men er ikke en garanti for, at alle fortrolige oplysninger bliver identificeret. Beskyttelsen afhænger fortsat af klassifikatoren, organisationens regler for routing og brugerens valg ved godkendelser.

Hvilke lokale modeller kan bruges?

De første lokale valgmuligheder omfatter Gemma 4 E4B, Qwen3.6 35B-A3B og en Perplexity-model, der er eftertrænet til Computer. 1 4

De kompakte modeller skal ikke erstatte de stærkeste cloudmodeller i alle situationer. Deres rolle er at behandle privat kontekst og udføre lokale handlinger, mens cloudmodellerne leverer bredere research, planlægning og ræsonnement på frontier-niveau.

Installation og aktivering

Perplexitys opsætning er lavet, så brugeren ikke behøver at etablere en separat stak til lokale modeller. I Mac-appen henter man en lokal model med ét klik, vælger Hybrid i modelvælgeren og vælger derefter den lokale model og cloudmodellen, der skal bruges. Ifølge produktinformationen kræves hverken Ollama, manuel konfiguration af en runtime eller en API-nøgle. 1

Lokale tokens bruger ikke cloud credits

Inferens, der håndteres af den lokale model, tæller ikke med i brugerens cloud credits. Clouddelen af den samme opgave bruger stadig cloudinferens og er underlagt den relevante cloud-kvote. 1 2

Det gør funktionen interessant både af hensyn til privatliv og omkostningskontrol: Følsom behandling kan blive på brugerens hardware, mens lokale tokens ikke reducerer den tildelte adgang til cloudmodeller. Til gengæld afhænger hastighed og kvalitet lokalt af Mac’ens unified memory, den valgte model og opgavens kompleksitet.

Start en opgave fra iPhone

Hybrid Compute kan også fungere på tværs af Apples enheder. Brugeren kan starte en Computer-opgave fra en iPhone. Opgaven begynder i skyen, hvorefter Mac’en får adgang til lokale filer og udfører de følsomme trin. Det færdige resultat kan ses på tværs af enheder. 1 5

Til fjernadgang til lokal inferens anbefaler Perplexity en dedikeret Mac mini, der står tændt hele tiden. 1 Det er mere bekvemt end manuelt at flytte filer mellem enheder, men det betyder også, at Mac’en skal være tilgængelig, når det lokale trin skal udføres.

Perplexity har open-sourcet klassifikatoren

Perplexity oplyser, at virksomheden har open-sourcet den on-device PII-klassifikator, der bruges af Privacy Gate. Virksomheden beskriver klassifikatoren som udviklet i samarbejde med Perplexitys Secure Intelligence Institute. 1 6

At gøre klassifikatoren tilgængelig for inspektion kan give sikkerheds- og enterprise-teams større indsigt i den mekanisme, der udløser lokal routing. Det er dog ikke i sig selv et bevis på, at alle typer fortrolige oplysninger bliver opdaget i enhver sammenhæng.

Eksempler på professionelle arbejdsgange

Juridisk arbejde

I Perplexitys eksempel undersøger cloudmodellen retspraksis, mens den lokale model opsummerer fortrolige sagsakter, udtrækker fakta, formulerer anonymiserede researchspørgsmål og opdaterer et lokalt udkast til et processkrift. Tanken er, at klientdata og sagsakter bliver på Mac’en, mens research i offentligt tilgængelige kilder kan udføres af cloudmodeller. 1

Private equity og investeringsresearch

For et investeringsteam kan cloudmodellen indsamle offentlige regnskaber, sammenlignelige handler og markedsoplysninger. Den lokale model kan læse fortroligt transaktionsmateriale, udtrække vilkår og antagelser, sammenholde dem med den offentlige research og opdatere et oplæg til investeringskomitéen eller en LBO-analyse. 1

Eksemplerne viser arbejdsdelingen: Offentlig information og bred research sendes til skyen, mens fortroligt kildemateriale holdes inden for den lokale behandlingsgrænse.

De vigtigste kompromiser

Privatliv: Følsomme filer kan blive på enheden, men beskyttelsen afhænger af præcis klassifikation og gennemtænkte godkendelsesindstillinger. 1 3

Pris: Lokal inferens bruger ikke cloud credits, mens cloudbaseret ræsonnement og research fortsat forbruger cloudressourcer. 1 2

Hastighed: Cloudmodeller giver hurtig adgang til stor beregningskraft, mens lokal behandling betyder, at beskyttede filer ikke behøver at blive uploadet. Den lokale ydeevne varierer dog efter Mac’ens hukommelse og den valgte model. 1

Funktionalitet: Frontier-modeller i skyen er fortsat bedst egnet til krævende ræsonnement, webresearch og planlægning. Lokale modeller opgiver noget kapacitet til gengæld for behandling på enheden og større kontrol over data. 1

Krav og tilgængelighed

Hybrid Compute kræver en Mac med Apple Silicon, macOS 15 eller nyere og mindst 24 GB unified memory. Perplexity anbefaler 32 GB for de bedste resultater. 1 3

De leverede produktoplysninger angiver, at Perplexity Pro-, Max- og Enterprise-abonnenter kan bruge funktionen. 1 Omtale af lanceringen beskriver desuden en tilmeldingsmulighed for Enterprise-kunder. 11

Enterprise-administratorer kan fastsætte fælles regler for, hvilke data der altid skal blive lokalt, hvilke oplysninger der må maskeres før cloudbehandling, og hvilke handlinger der kræver brugerens godkendelse. De kan også føre kontrol med, hvornår oplysninger forlader en enhed. 1

Kommer Hybrid Compute til Windows eller Linux?

Det tilgængelige produktmateriale beskriver Hybrid Compute som en funktion til Mac-computere med Apple Silicon. Der er ikke offentliggjort en lanceringsdato for Windows eller Linux, så der findes ingen understøttet tidsplan at rapportere.

Indtil videre er Hybrid Computes styrke kompromiset mellem to verdener: Brugeren behøver ikke vælge mellem cloud-AI’s kapacitet og lokal behandling med større datakontrol. I stedet bruger systemet en lokal Privacy Gate til at afgøre, hvilke dele af agentens arbejdsgang der kan blive på Mac’en, og hvilke der kan sendes til skyen.