Meredith Whittakerová: AI agenti představují „existenční hrozbu“ pro šifrovanou komunikaci

Meredith Whittakerová, prezidentka Signal Foundation, patří k nejvýraznějším kritikům toho, jak AI agenti a ovládání operačních systémů velkými technologickými firmami ohrožují soukromí uživatelů. Na veřejných vystoupeních od konference SXSW 2025 přes summit OSN AI for Good až po Světové ekonomické fórum v Davosu opakovaně varuje, že nástup „agentní AI“ – tedy autonomních systémů, které za uživatele vykonávají úkoly – představuje zásadní a bezprostřední hrozbu pro soukromí a bezpečnost .

AI agenti chtějí klíče od vašeho digitálního života

Whittakerová argumentuje, že aby AI agenti fungovali, jak slibují, potřebují rozsáhlý a systémový přístup k osobním údajům: kalendáře, platební karty, historii prohlížeče, seznamy kontaktů a komunikační aplikace. Tento stav přirovnává k „vložení mozku do sklenice“ . Odborněji pak integraci AI agentů na úrovni operačního systému označuje za prolomení „krevně-mozkové bariéry“ mezi operačním systémem a aplikační vrstvou – jakmile má AI agent na této úrovni přístup, tradiční bezpečnostní hranice mezi aplikacemi se hroutí .

Uživatelům je podle ní předkládána falešná volba: pohodlí výměnou za předání klíčů od celého digitálního života. Whittakerová vnímá tlak na zavádění AI asistentů jako strukturální posun, kdy jsou lidé přesvědčováni, aby svěřovali stále více osobních informací – včetně svých konverzací – systémům vytvořeným společnostmi, jejichž obchodní model označuje za „toxický byznys založený na sledování“, který je postaven na sbírání obrovského množství dat za účelem „poznat zákazníka“ a prodávat produkty .

„Existenční hrozba“ pro šifrované zprávy

Whittakerová nazvala hlubokou integraci AI agentů do operačních systémů „existenční hrozbou“ pro aplikace s端对端 šifrováním, jako je Signal, WhatsApp a Telegram . Obava je přímá: pokud AI agent na úrovni OS dokáže číst obrazovku, zachytávat notifikace nebo přistupovat k datům aplikací, je i nejsilnější šifrování uvnitř aplikace obejito na úrovni zařízení. Signal pak již nemůže zaručit důvěrnost zpráv, protože samotný operační systém se stává potenciální vrstvou sledování .

Jak řekla deníku Times of India: „Potřeboval by přístup k vašim kontaktům a zprávám v Signalu… tento přístup je útočným vektorem a zcela to popírá důvod naší existence“ . Prohlásila také, že integrace agentů na úrovni OS probíhá „mimořádně bezohledně a bez ohledu na základní principy kybernetické bezpečnosti a soukromí“ .

Dvojitá páka velkých technologických firem

Whittakerová varuje, že tytéž společnosti, které ovládají hlavní operační systémy (Android od Googlu, iOS/macOS od Applu, Windows od Microsoftu), jsou zároveň těmi, kdo tlačí AI agenty nejhlouběji do těchto systémů . To jim dává bezprecedentní přehled o každé aplikaci a každé komunikaci na zařízení. Tuto situaci popisuje jako stav, kdy tři společnosti mohou „rozhodovat způsobem, který zásadně poškozuje naši kolektivní kybernetickou bezpečnost“ .

Kromě operačních systémů kritizuje i koncentraci moci v cloudové infrastruktuře. Whittakerová v říjnu 2025 na síti Mastodon poznamenala, že samotný Signal je závislý na AWS, a dodala, že rozsah monopolu „hyperscalerů“ v rukou AWS, Googlu a Microsoftu je „mnohem méně známý, než jsem předpokládala“ – a že to nevypadá dobře pro reálnou strategii .

„Dohled není bezpečí“: Signalova červená linie

Postoj Signalu k vládním návrhům na sledování je jednoznačný. V prohlášení z června 2026 s názvem „Surveillance Is Not Safety“ (Dohled není bezpečí), zveřejněném na oficiálním blogu Signalu, organizace odsoudila požadavek britské vlády, aby veškerý obsah na všech zařízeních prodávaných nebo používaných ve Spojeném království byl skenován za účelem odhalení nahoty. Signal to označil za „dystopickou kombinaci věkového ověření a skenování obsahu“, která „neochrání děti“, ale naopak „ohrožuje nás všechny“ a zároveň posiluje „tržní dominanci Applu, Googlu a Microsoftu a jejich kontrolu nad našimi nejosobnějšími informacemi“ .

Whittakerová opakovaně prohlásila, že pokud by Británie po Signalu požadovala oslabení šifrování nebo zavedení skenovacích schopností, organizace by „absolutně, na 100 % odešla“ – opustila by britský trh, než aby vyhověla . Myšlenku, že lze prolomit šifrování a zároveň zachovat soukromí, označila za „magické myšlení“ a varovala, že jakmile jednou takové sledovací schopnosti vzniknou, budou nevyhnutelně rozšířeny i na sledování politického projevu a dalšího obsahu definovaného vládou .

Širší boj proti sledování

Whittakerová vnímá tyto konkrétní hrozby – AI agenty, kontrolu operačních systémů, vládní nařízení o skenování – jako různé tváře téhož problému. Moderní pokroky v AI označuje za „primárně produkt výrazně koncentrovaných dat a výpočetních zdrojů, které jsou v rukou několika velkých technologických korporací“ a varuje, že „naše rostoucí závislost na takové AI předává nepřiměřenou moc nad našimi životy a institucemi hrstce technologických firem“ .

Na University of Technology Sydney v roce 2024 otevřeně popsala „toxický obchodní model založený na sledování“ velkých technologických monopolů s tím, že „deriváty tohoto toxického modelu vydávají za produkt vědecké inovace“ .

Pro běžné uživatele má jasnou radu: dobře si rozmyslete, než udělíte AI nástrojům přístup k osobním údajům. Oprávnění, která tyto systémy požadují, nejsou běžnou žádostí o přístup ke kontaktům, říká – je to jako poskytnout „root“ přístup k celému zařízení .