AI-agenter är ett "existenshot" mot din integritet, enligt Signals Meredith Whittaker

Signal-presidenten Meredith Whittaker har framträtt som en av de skarpaste kritikerna av hur AI-agenter och Big Techs kontroll över operativsystem hotar användarnas integritet. I offentliga framträdanden vid allt från SXSW 2025 till FN:s AI for Good Summit och World Economic Forum i Davos har hon gång på gång varnat för att framväxten av ”agentisk AI” – autonoma system som utför uppgifter åt användaren – utgör ett grundläggande och omedelbart hot mot både integritet och säkerhet .

AI-agenter kräver nycklarna till ditt digitala liv

Whittaker menar att för att AI-agenter ska fungera som utlovat kräver de en omfattande och systemisk åtkomst till personlig data: kalendrar, kreditkort, webbläsarhistorik, kontaktlistor och meddelandeappar. Hon har beskrivit detta som att ”lägga sin hjärna i en burk” . I mer tekniska termer kallar hon integrationen av AI-agenter på operativsystemsnivå för en sprängning av ”blod-hjärnbarriären” mellan operativsystemet och applikationslagret – när en AI-agent på OS-nivå väl fått sådan åtkomst kollapsar de traditionella säkerhetsgränserna mellan appar .

Hon varnar för att användare presenteras med ett falskt val: bekvämlighet i utbyte mot att överlämna nycklarna till hela sitt digitala liv. Whittaker ser AI-assistenterna som en strukturell förändring där människor övertalas att överlämna allt mer personlig information – inklusive sina samtal – till system byggda av företag vars affärsmodell hon beskriver som en ”giftig övervakningsaffärsmodell” som förlitar sig på att samla in enorma mängder data för att ”känna kunden” och sälja produkter .

Ett ”existenshot” mot krypterad meddelandehantering

Whittaker har kallat den djupa integrationen av AI-agenter i operativsystem för ett ”existenshot” mot appar med end-to-end-kryptering som Signal, WhatsApp och Telegram . Orsaken är enkel: om en AI-agent på OS-nivå kan läsa skärmen, snappa upp notiser eller komma åt appdata, så kringgås även den starkaste krypteringen på enhetsnivå. Signal kan inte längre garantera meddelandenas konfidentialitet eftersom operativsystemet självt blir ett potentiellt övervakningslager .

Som hon sade till Times of India: ”Den skulle behöva åtkomst till dina Signal-kontakter och dina Signal-meddelanden… den åtkomsten är en attackvektor och den upphäver vår existensberättigande” . Hon har konstaterat att denna integration av agenter på OS-nivå genomförs ”extremt hänsynslöst och utan hänsyn till grundläggande cybersäkerhets- och integritetsprinciper” .

Big Techs dubbla hävstång

Whittaker pekar på att samma fåtal företag som kontrollerar de stora operativsystemen (Googles Android, Apples iOS/macOS, Microsofts Windows) också är de som driver på AI-agenter djupast in i dessa system . Detta ger dem en aldrig tidigare skådad insyn i varje app och varje kommunikation på enheten. Hon har beskrivit detta som att tre företag kan ”fatta beslut som i grunden skadar vår kollektiva cybersäkerhet” .

Utöver operativsystemen har hon kritiserat maktkoncentrationen inom molninfrastruktur. Whittaker noterade i en tråd på Mastodon i oktober 2025 att Signal självt är beroende av AWS, och tillade att omfattningen av hyperscaler-monopolet med AWS, Google och Microsoft är ”långt mindre välkänt än jag antagit” – och att detta är illavarslande för realistisk strategi .

”Övervakning är inte säkerhet”: Signals röda linje

Signals position i frågan om statliga övervakningsförslag är glasklar. I ett uttalande från juni 2026 med titeln ”Surveillance Is Not Safety”, publicerat på Signals officiella blogg, fördömde organisationen den brittiska regeringens krav på att allt innehåll på alla enheter som säljs eller används i Storbritannien ska skannas under antagande att det kan innehålla nakenhet. Signal kallade det en ”dystopisk kombination av åldersverifiering och innehållsskanning” som ”inte kommer att skydda barn” utan snarare ”utsätter oss alla för fara” samtidigt som den stärker ”Apple, Google och Microsofts marknadsdominans och deras kontroll över vår mest personliga information” .

Whittaker har upprepade gånger sagt att om Storbritannien kräver att Signal försvagar krypteringen eller bygger in skanningsfunktioner, skulle organisationen ”absolut, till 100 % lämna” – man skulle lämna den brittiska marknaden snarare än att efterleva kraven . Hon har kallat idén att bryta kryptering samtidigt som man bevarar integriteten för ”magiskt tänkande” och varnat för att sådana övervakningsfunktioner, när de väl skapats, oundvikligen kommer att utvidgas bortom sitt ursprungliga syfte för att övervaka politiskt tal och annat innehåll som regeringen definierar .

Den bredare kampen mot övervakning

Whittaker ser dessa specifika hot – AI-agenter, OS-kontroll, statliga skanningskrav – som olika sidor av samma problem. Hon har beskrivit moderna AI-framsteg som ”i första hand en produkt av kraftigt koncentrerade data- och beräkningsresurser som ligger i händerna på några få stora techföretag” och varnat för att ”vårt ökande beroende av sådan AI överlåter oproportionerlig makt över våra liv och institutioner till en handfull techföretag” .

Vid University of Technology Sydney 2024 blottlade hon Big Tech-monopolets ”giftiga övervakningsaffärsmodell” och hävdade att ”de säljer derivaten av den giftiga övervakningsaffärsmodellen som en produkt av vetenskaplig innovation” .

Till enskilda användare är hennes råd brutalt ärligt: tänk två gånger innan du ger AI-verktyg åtkomst till personlig data. De behörigheter dessa system begär är inte den vanliga frågan om att få se dina kontakter, säger hon – det är detsamma som att ge ”root”-åtkomst till hela din enhet .