Skandál s Grok Build: Nástroj pro vývojáře tajně nahrával celé kódové základny i s přihlašovacími údaji

Mnohem závažnějším zjištěním byl kanál skrytého ukládání. Nezávisle na tom, které soubory agent skutečně otevřel, CLI zabalilo celý GIT repozitář – včetně kompletní historie commitů – a nahrálo ho do bucketu Google Cloud Storage s názvem grok-code-session-trace prostřednictvím endpointu

POST /v1/save-session

Bezpečnostní výzkumník Hari to nezávisle potvrdil reverzním inženýrstvím a uvedl, že Grok Build nahrával celé uživatelské adresáře bez výslovného povolení . V jednom testu s repozitářem o velikosti 11,2 GiB uniklo skrze úložný kanál nejméně 5,1 GiB dat, zatímco skutečný kódovací úkol vyžadoval jen asi 192 KB dat . Nahrávky obsahovaly kompletní GIT historii, tajemství z .env a všechny soubory repozitáře – nejen podmnožinu potřebnou pro daný úkol .

Jak zareagovali Elon Musk a xAI

Elon Musk problém veřejně potvrdil na síti X, když svou reakci začal slovem „True“ . Následně slíbil: „Jako preventivní opatření budou všechna uživatelská data dříve nahraná na SpaceXAI zcela a důkladně smazána. Nezůstane naprosto nic“ .

xAI vydala veřejné prohlášení, v němž uvádí, že ochrana soukromí uživatelů je pro ni prioritou, a poznamenala, že firemní zákazníci využívající Zero Data Retention (ZDR) nikdy neměli svůj kód ani trénovací data použita . Společnost také provedla změnu na straně serveru, která deaktivovala endpoint /v1/save-session, čímž zastavila nahrávání repozitářů na pozadí . Nahrávání ustalo k 13. červenci 2026 .

Přetrvávající obavy navzdory opravě

I když xAI aktivní únik dat zastavila, několik zásadních problémů zůstává nevyřešeno.

1. Oprava proběhla na serveru, nikoli v klientovi. Výzkumník poznamenal, že samotný klient Grok Build CLI (verze 0.2.93) nebyl nikdy aktualizován – xAI pouze vypnula přijímací endpoint na svých serverech . To znamená, že klientský kód stále obsahuje možnost nahrávat celé repozitáře; chování by se mohlo obnovit, pokud by byl endpoint znovu aktivován.

2. Nastavení ochrany soukromí (opt-out) nahrávání nezabránilo. Výzkumník otestoval příkaz pro režim soukromí nebo odhlášení z uchovávání dat a zjistil, že nezabránil nahrávání celého repozitáře na pozadí . Výzkumník výslovně uvedl: „Příkaz xAI na ochranu soukromí to nespravil“ . Místo toho byl na serveru nastaven skrytý příznak disable_codebase_upload na hodnotu true .

3. O změně nebyla veřejná komunikace. xAI funkci nahrávání deaktivovala, aniž by o tom uživatele informovala nebo vydala záznam v changelogu .

4. Potvrzení o skutečném smazání dat chybí. Musk sice smazání slíbil, ale v době zveřejnění zpráv neexistovalo nezávislé ověření, že dříve nahraná uživatelská data v bucketu grok-code-session-trace byla skutečně vymazána .

5. Data, která už unikla, nelze odvolat. Veškeré citlivé přihlašovací údaje, proprietární kód nebo tajemství přenesené před opravou již byly uloženy v cloudové infrastruktuře xAI . Výzkumník nahrávky zachytil, dokázal naklonovat GIT bundle a obnovit soubory, které agent výslovně dostal příkaz nečíst .

Shrnutí klíčových faktů

Co to znamená pro vývojáře

Incident s Grok Build poukazuje na rostoucí riziko pro vývojáře používající nástroje pro asistované kódování s umělou inteligencí. Mnoho takových nástrojů odesílá kód do cloudu ke zpracování, ale rozsah přenášených a ukládaných dat je často nejasný. V tomto případě nástroj odesílal mnohem více, než bylo potřeba – a to i tehdy, když se tomu uživatelé výslovně snažili zabránit.

Dokud xAI nevydá aktualizaci klienta a neposkytne nezávislé ověření smazání dat, měli by vývojáři, kteří Grok Build používali, předpokládat, že veškeré přihlašovací údaje, proprietární kód nebo citlivé informace přítomné v jejich repozitářích mohly být přeneseny do cloudové infrastruktury xAI.