Co výzkumníci zjistili

Grok Build používal dva oddělené kanály pro přenos dat, přičemž ani jeden se neomezil jen na data nezbytná pro zadaný úkol.

Kanál modelových požadavků fungoval na první pohled standardně: když Grok Build četl soubor pro účely kódovací úlohy, jeho obsah putoval na servery xAI. Jenže citlivé údaje, jako jsou API klíče a hesla k databázím z .env souborů, se objevily v čistém textu bez jakéhokoli začernění .

Mnohem závažnějším zjištěním byl kanál skrytého ukládání. Nezávisle na tom, které soubory agent skutečně otevřel, CLI zabalilo celý GIT repozitář – včetně kompletní historie commitů – a nahrálo ho do bucketu Google Cloud Storage s názvem grok-code-session-trace prostřednictvím endpointu POST /v1/save-session . I když výzkumník nástroji přikázal, aby „jen řekl OK a nečetl žádné soubory,“ nástroj stejně nahrál celý repozitář .

Bezpečnostní výzkumník Hari to nezávisle potvrdil reverzním inženýrstvím a uvedl, že Grok Build nahrával celé uživatelské adresáře bez výslovného povolení . V jednom testu s repozitářem o velikosti 11,2 GiB uniklo skrze úložný kanál nejméně 5,1 GiB dat, zatímco skutečný kódovací úkol vyžadoval jen asi 192 KB dat . Nahrávky obsahovaly kompletní GIT historii, tajemství z .env a všechny soubory repozitáře – nejen podmnožinu potřebnou pro daný úkol .

Jak zareagovali Elon Musk a xAI

Elon Musk problém veřejně potvrdil na síti X, když svou reakci začal slovem „True“ . Následně slíbil: „Jako preventivní opatření budou všechna uživatelská data dříve nahraná na SpaceXAI zcela a důkladně smazána. Nezůstane naprosto nic“ .

xAI vydala veřejné prohlášení, v němž uvádí, že ochrana soukromí uživatelů je pro ni prioritou, a poznamenala, že firemní zákazníci využívající Zero Data Retention (ZDR) nikdy neměli svůj kód ani trénovací data použita . Společnost také provedla změnu na straně serveru, která deaktivovala endpoint /v1/save-session, čímž zastavila nahrávání repozitářů na pozadí . Nahrávání ustalo k 13. červenci 2026 .

Přetrvávající obavy navzdory opravě

I když xAI aktivní únik dat zastavila, několik zásadních problémů zůstává nevyřešeno.

1. Oprava proběhla na serveru, nikoli v klientovi. Výzkumník poznamenal, že samotný klient Grok Build CLI (verze 0.2.93) nebyl nikdy aktualizován – xAI pouze vypnula přijímací endpoint na svých serverech . To znamená, že klientský kód stále obsahuje možnost nahrávat celé repozitáře; chování by se mohlo obnovit, pokud by byl endpoint znovu aktivován.

2. Nastavení ochrany soukromí (opt-out) nahrávání nezabránilo. Výzkumník otestoval příkaz pro režim soukromí nebo odhlášení z uchovávání dat a zjistil, že nezabránil nahrávání celého repozitáře na pozadí . Výzkumník výslovně uvedl: „Příkaz xAI na ochranu soukromí to nespravil“ . Místo toho byl na serveru nastaven skrytý příznak disable_codebase_upload na hodnotu true .

3. O změně nebyla veřejná komunikace. xAI funkci nahrávání deaktivovala, aniž by o tom uživatele informovala nebo vydala záznam v changelogu .

4. Potvrzení o skutečném smazání dat chybí. Musk sice smazání slíbil, ale v době zveřejnění zpráv neexistovalo nezávislé ověření, že dříve nahraná uživatelská data v bucketu grok-code-session-trace byla skutečně vymazána .

5. Data, která už unikla, nelze odvolat. Veškeré citlivé přihlašovací údaje, proprietární kód nebo tajemství přenesené před opravou již byly uloženy v cloudové infrastruktuře xAI . Výzkumník nahrávky zachytil, dokázal naklonovat GIT bundle a obnovit soubory, které agent výslovně dostal příkaz nečíst .

Shrnutí klíčových faktů

Co to znamená pro vývojáře

Incident s Grok Build poukazuje na rostoucí riziko pro vývojáře používající nástroje pro asistované kódování s umělou inteligencí. Mnoho takových nástrojů odesílá kód do cloudu ke zpracování, ale rozsah přenášených a ukládaných dat je často nejasný. V tomto případě nástroj odesílal mnohem více, než bylo potřeba – a to i tehdy, když se tomu uživatelé výslovně snažili zabránit.

Dokud xAI nevydá aktualizaci klienta a neposkytne nezávislé ověření smazání dat, měli by vývojáři, kteří Grok Build používali, předpokládat, že veškeré přihlašovací údaje, proprietární kód nebo citlivé informace přítomné v jejich repozitářích mohly být přeneseny do cloudové infrastruktury xAI.

Co výzkumníci zjistili

Grok Build používal dva oddělené kanály pro přenos dat, přičemž ani jeden se neomezil jen na data nezbytná pro zadaný úkol.

Kanál modelových požadavků fungoval na první pohled standardně: když Grok Build četl soubor pro účely kódovací úlohy, jeho obsah putoval na servery xAI. Jenže citlivé údaje, jako jsou API klíče a hesla k databázím z .env souborů, se objevily v čistém textu bez jakéhokoli začernění .

Mnohem závažnějším zjištěním byl kanál skrytého ukládání. Nezávisle na tom, které soubory agent skutečně otevřel, CLI zabalilo celý GIT repozitář – včetně kompletní historie commitů – a nahrálo ho do bucketu Google Cloud Storage s názvem grok-code-session-trace prostřednictvím endpointu POST /v1/save-session . I když výzkumník nástroji přikázal, aby „jen řekl OK a nečetl žádné soubory,“ nástroj stejně nahrál celý repozitář .

Bezpečnostní výzkumník Hari to nezávisle potvrdil reverzním inženýrstvím a uvedl, že Grok Build nahrával celé uživatelské adresáře bez výslovného povolení . V jednom testu s repozitářem o velikosti 11,2 GiB uniklo skrze úložný kanál nejméně 5,1 GiB dat, zatímco skutečný kódovací úkol vyžadoval jen asi 192 KB dat . Nahrávky obsahovaly kompletní GIT historii, tajemství z .env a všechny soubory repozitáře – nejen podmnožinu potřebnou pro daný úkol .

Jak zareagovali Elon Musk a xAI

Elon Musk problém veřejně potvrdil na síti X, když svou reakci začal slovem „True“ . Následně slíbil: „Jako preventivní opatření budou všechna uživatelská data dříve nahraná na SpaceXAI zcela a důkladně smazána. Nezůstane naprosto nic“ .

xAI vydala veřejné prohlášení, v němž uvádí, že ochrana soukromí uživatelů je pro ni prioritou, a poznamenala, že firemní zákazníci využívající Zero Data Retention (ZDR) nikdy neměli svůj kód ani trénovací data použita . Společnost také provedla změnu na straně serveru, která deaktivovala endpoint /v1/save-session, čímž zastavila nahrávání repozitářů na pozadí . Nahrávání ustalo k 13. červenci 2026 .

Přetrvávající obavy navzdory opravě

I když xAI aktivní únik dat zastavila, několik zásadních problémů zůstává nevyřešeno.

1. Oprava proběhla na serveru, nikoli v klientovi. Výzkumník poznamenal, že samotný klient Grok Build CLI (verze 0.2.93) nebyl nikdy aktualizován – xAI pouze vypnula přijímací endpoint na svých serverech . To znamená, že klientský kód stále obsahuje možnost nahrávat celé repozitáře; chování by se mohlo obnovit, pokud by byl endpoint znovu aktivován.

2. Nastavení ochrany soukromí (opt-out) nahrávání nezabránilo. Výzkumník otestoval příkaz pro režim soukromí nebo odhlášení z uchovávání dat a zjistil, že nezabránil nahrávání celého repozitáře na pozadí . Výzkumník výslovně uvedl: „Příkaz xAI na ochranu soukromí to nespravil“ . Místo toho byl na serveru nastaven skrytý příznak disable_codebase_upload na hodnotu true .

3. O změně nebyla veřejná komunikace. xAI funkci nahrávání deaktivovala, aniž by o tom uživatele informovala nebo vydala záznam v changelogu .

4. Potvrzení o skutečném smazání dat chybí. Musk sice smazání slíbil, ale v době zveřejnění zpráv neexistovalo nezávislé ověření, že dříve nahraná uživatelská data v bucketu grok-code-session-trace byla skutečně vymazána .

5. Data, která už unikla, nelze odvolat. Veškeré citlivé přihlašovací údaje, proprietární kód nebo tajemství přenesené před opravou již byly uloženy v cloudové infrastruktuře xAI . Výzkumník nahrávky zachytil, dokázal naklonovat GIT bundle a obnovit soubory, které agent výslovně dostal příkaz nečíst .

Shrnutí klíčových faktů

Co to znamená pro vývojáře

Incident s Grok Build poukazuje na rostoucí riziko pro vývojáře používající nástroje pro asistované kódování s umělou inteligencí. Mnoho takových nástrojů odesílá kód do cloudu ke zpracování, ale rozsah přenášených a ukládaných dat je často nejasný. V tomto případě nástroj odesílal mnohem více, než bylo potřeba – a to i tehdy, když se tomu uživatelé výslovně snažili zabránit.

Dokud xAI nevydá aktualizaci klienta a neposkytne nezávislé ověření smazání dat, měli by vývojáři, kteří Grok Build používali, předpokládat, že veškeré přihlašovací údaje, proprietární kód nebo citlivé informace přítomné v jejich repozitářích mohly být přeneseny do cloudové infrastruktury xAI.