Odhalil Google Gemini tajné jméno postavy z indie hry?

Příběh se rychle rozšířil na sociálních sítích. Google následně jakékoli využívání soukromých dokumentů k trénování Gemini odmítl. Když se ale novináři, vývojáři a členové komunity pokusili údajný únik zopakovat, chatbot už stejné jméno ani podobně konkrétní informace neuvedl .

Co se podle vývojáře stalo

Klub Kofta Studio je sólo vývojář stojící za tower-defense hrou Operation Octo, která vyšla na Steamu. Podle jeho příspěvku na Redditu se hráč v komunitním Discordu ptal Gemini na „hloupé“ otázky týkající se budoucího obsahu hry. Odpovědi podle zveřejněných screenshotů obsahovaly překvapivě konkrétní informace.

Když vývojář hráče požádal, aby se zeptal také na dosud neoznámený obsah, Gemini měl uvést přesný název „Vantage Tripod“ — jméno postavy, o níž vývojář podle vlastních slov nikdy s nikým veřejně nemluvil .

„Nějakým způsobem AI vyplivla přesný a velmi specifický název postavy ‚Vantage Tripod‘, který jsem nikdy nikomu nezmínil,“ napsal vývojář na Redditu. „Pokud vím, jediným místem, kde tato informace v digitální podobě existuje, je jeden z mých Google Docs — a s AI jsem přitom nemluvil já!“

Fanoušci sice věděli, že se ve hře plánuje postava nazvaná „Tripod Fish“, celý název „Vantage Tripod“ však podle vývojáře zveřejněn nebyl. Studio zároveň uvedlo, že Gemini zopakoval i přesné informace o dosud nevydaných herních mechanikách, které měly být do stejného dokumentu přidány teprve den před danou konverzací .

Google: Soukromé dokumenty k trénování nepoužíváme

Google v reakcích pro několik médií včetně serverů Polygon, Android Authority a PC Guide důrazně odmítl, že by Gemini byl trénován na soukromých souborech Google Workspace, například na dokumentech Google Docs. Společnost uvedla, že soukromé dokumenty za tímto účelem neskenuje a že Gemini k dokumentům či Disku Google získá přístup pouze s výslovným svolením uživatele pro konkrétní úkoly, například shrnutí obsahu .

Google však podle dostupných vyjádření nevysvětlil, jak by se v odpovědi Gemini mohlo objevit právě spojení „Vantage Tripod“, pokud je popis vývojáře přesný .

Proč se únik nepodařilo zopakovat

V následujících dnech se o podobný test pokusili nezávislí novináři, vývojáři i členové herní komunity. Gemini se ptali na Operation Octo a jeho budoucí obsah, ale nikdo z nich nedostal odpověď obsahující „Vantage Tripod“ ani srovnatelně neveřejný detail . Vývojář později připustil, že stejný výsledek nedokázal zopakovat ani hráč, který původní odpověď obdržel .

Dosud nebyl zveřejněn technický audit, kontrolovaný test ani kompletní záznam původních promptů, který by nezávisle potvrdil přístup Gemini k soukromému dokumentu .

Některá média proto zvažují méně dramatickou možnost: mohlo jít o jednorázovou, nereprodukovatelnou halucinaci AI — tedy o náhodně vygenerovaný název, který zněl věrohodně, nikoli o skutečné načtení dat ze souboru . Skutečnost, že se výsledek objevil pouze jednou, posiluje pochybnosti. Definitivní vysvětlení ale zatím neexistuje.

Větší problém: co vlastně cloudová AI vidí?

Ať už šlo o skutečný únik, nebo statistickou náhodu, případ upozornil na několik širších rizik.

Nejasná hranice mezi soukromými a veřejnými daty

I přes kategorické vyjádření Googlu zůstává pro běžné uživatele obtížné ověřit, jaká data může AI využívat při trénování nebo při vytváření konkrétní odpovědi. Uživatelé nemají vlastní nezávislý způsob, jak zjistit, zda se jejich soukromý obsah do těchto procesů zapojil . Už samotná nejistota může oslabovat důvěru v cloudové nástroje při práci s citlivými informacemi.

Nedostatek transparentnosti

Moderní AI vyhledávače mohou pracovat s různými zdroji — od indexovaných webů a uložených kopií obsahu po odkazy sdílené uživateli nebo další služby daného ekosystému. Bez podrobnějšího vysvětlení toho, jak Gemini odpovědi sestavuje, se vývojáři a firmy jen obtížně ujišťují, že jejich obchodní tajemství a plány před vydáním zůstanou v bezpečí .

Halucinace může být stejně škodlivá jako skutečný únik

Pokud AI sebevědomě vymyslí název, který působí jako skutečné tajemství, může způsobit značné škody i bez úniku dat. Vznikne dojem, že někdo citlivé informace získal, přestože se opak může dokazovat jen velmi obtížně .

Dopad na ochranu obchodního tajemství

Jakmile se neveřejná informace věrohodně objeví ve výstupu chatbota, může to zpochybnit její utajení bez ohledu na to, jak se do odpovědi dostala. Pro firmy a vývojáře to představuje nepříjemnou brzdu při používání cloudových dokumentů pro důvěrné plánování .

Závěr

Případ „Vantage Tripod“ zůstává nevyřešenou hádankou ochrany dat. Tvrzení vývojáře nebylo nezávisle potvrzeno, Google zneužití soukromých dokumentů odmítá a neúspěšné pokusy o reprodukci naznačují, že mohlo jít o náhodnou halucinaci nebo o chybějící kontext.

Jisté je zatím především to, že neprůhlednost AI sama o sobě vytváří problém. Pro vývojáře, firmy i jednotlivce, kteří ukládají citlivé informace online, není důležitá jen otázka, zda k úniku skutečně došlo. Stejně podstatné je, že dnes často nedokážou přesvědčivě zjistit, co se stalo.