Gemini סיפר לשחקן על דמות סודית — שהייתה אמורה להופיע רק במסמך פרטי

מה בדיוק נטען?

Klub Kofta Studio שיתף צילומי מסך של שיחה ב-Discord, שבה שחקן שאל את הבינה המלאכותית של גוגל על תכנים עתידיים ב-Operation Octo. בתגובה, Gemini החזיר — לפי צילומי המסך — את השם המדויק והספציפי "Vantage Tripod" .

המפתח כתב ב-Reddit: "באיזושהי דרך, ה-AI פלט את שם הדמות המדויק והספציפי מאוד 'Vantage Tripod', שאותו מעולם לא הזכרתי בפני איש". הוא הוסיף כי, ככל הידוע לו, המידע היה קיים בצורה דיגיטלית רק באחד ממסמכי Google Docs שלו — וכי הוא עצמו לא היה זה ששוחח עם הבינה המלאכותית .

הציבור אמנם ידע שהמפתח מתכנן דמות בשם "Tripod Fish", אך לא הכיר את השם המלא "Vantage Tripod". לפי טענתו, Gemini גם החזיר פרטים נכונים על מכניקות משחק שטרם נחשפו, שאותם כתב באותו מסמך רק יום לפני השיחה עם השחקן .

גוגל: Gemini לא מאומן על מסמכים פרטיים

בתגובות לאמצעי תקשורת, בהם Polygon, Android Authority ו-PC Guide, גוגל דחתה את האפשרות ש-Gemini אומן על בסיס מסמכי Google Workspace פרטיים. החברה מסרה כי היא אינה סורקת מסמכי Docs פרטיים לצורך אימון מודלי ה-AI, וכי Gemini יכול לגשת ל-Google Drive או ל-Google Docs רק לאחר שהמשתמש מעניק לכך הרשאה מפורשת — למשל לצורך סיכום מסמך .

עם זאת, גוגל לא הציעה הסבר חלופי ברור לאופן שבו הופיעה בתשובה המחרוזת הספציפית "Vantage Tripod", אם תיאור המפתח אכן מדויק .

הבעיה המרכזית: אי אפשר היה לשחזר את ה"דליפה"

זמן קצר לאחר פרסום הטענה ניסו עיתונאים, מפתחים וחברי קהילה לשאול את Gemini שאלות דומות על Operation Octo. אף אחד מהניסיונות לא העלה את השם "Vantage Tripod" או פרט לא-מוכרז דומה . גם השחקן שקיבל את התשובה המקורית לא הצליח להפיק אותה מחדש .

נכון לעכשיו, לא פורסמו ביקורת טכנית, ניסוי מבוקר או תיעוד מלא של ההנחיות שהוזנו למערכת, שיאשרו באופן עצמאי כי Gemini אכן ניגש למסמך הפרטי .

כמה כלי תקשורת, בהם Numerama ו-The Hook, הציעו שהתוצאה החד-פעמית עשויה להיות "הזיה" בלתי ניתנת לשחזור: שם שנשמע אמין ונוצר באמצעות זיהוי דפוסים, ולא מידע שנשלף בפועל מהמסמך של המפתח . העובדה שהשם הופיע פעם אחת בלבד ולא ניתן היה להפעיל את התוצאה מחדש מעוררת ספקנות — אך אין כיום הסבר סופי שאושר.

מעבר למקרה הספציפי: למה האירוע חשוב?

גם אם לא הייתה כאן פריצת מידע אמיתית, המקרה ממחיש את פער האמון שנוצר סביב מערכות AI שאופן הפעולה שלהן אינו שקוף.

לא ברור למשתמשים היכן עובר גבול המידע

גוגל מכחישה שימוש במסמכי Workspace פרטיים לצורך אימון Gemini, אך למשתמשים אין דרך עצמאית לבדוק אם תוכן פרטי שימש לאימון או להסקת תשובות. חוסר הוודאות הזה עלול לפגוע באמון בכלי ענן שמשמשים לכתיבת מסמכים, לתכנון מוצרים ולניהול מידע רגיש .

מערכות AI עשויות להסתמך על מקורות רבים

כלי חיפוש מבוססי AI עשויים לשלב מידע מדפי אינטרנט מאונדקסים, מתוכן שמור במטמון, מקישורים ששיתפו משתמשים וממקורות נוספים בתוך המערכת האקולוגית של גוגל. ללא הסבר מלא על האופן שבו נוצרת כל תשובה, מפתחים ועסקים מתקשים לדעת אם תוכניות טרום-השקה או סודות מסחריים מוגנים באמת במסמך ענן .

גם תשובה מומצאת עלולה לגרום נזק

אם מערכת AI ממציאה בביטחון שם שנשמע כמו סוד אמיתי, היא עלולה ליצור נזק כמעט כמו דליפה ממשית. נוצרת תחושה שמידע פרטי נחשף — גם אם בפועל לא הייתה גישה למסמך — וקשה להוכיח את ההפך .

ומה לגבי סודות מסחריים?

סוד מסחרי תלוי, בין היתר, בשמירה על סודיותו. אם מידע פרטי מופיע לכאורה בתשובת צ'אטבוט, עצם הופעתו עלולה לערער את היכולת להוכיח שהמידע נשמר בסוד, בלי קשר לשאלה כיצד המערכת הגיעה אליו בפועל .

השורה התחתונה

תעלומת "Vantage Tripod" עדיין לא נפתרה. המפתח הציג טענה וצילומי מסך, אך אין אישור עצמאי לכך ש-Gemini ניגש למסמך פרטי. גוגל מכחישה שימוש כזה, וכל ניסיונות השחזור נכשלו. ייתכן שמדובר בצירוף מקרים או בהזיה משכנעת של המודל — אך גם האפשרות הזו מדגישה בעיה אמיתית: במערכות AI אטומות, קשה לדעת אם מדובר בדליפה, בניחוש מוצלח או בטעות שנשמעת אמינה מדי.