Google Gemini назвав секретного персонажа інді-гри — чи міг він побачити приватний Google-документ?

Розробник наполягає, що повне ім’я персонажа існувало в цифровому вигляді лише в одному приватному Google-документі. Інцидент швидко розійшовся мережею, але досі залишається непідтвердженим: Google відкинув припущення про доступ до приватних файлів, а численні спроби відтворити відповідь завершилися безрезультатно.

Що, за словами розробника, сталося

Гравець із Discord-спільноти Operation Octo ставив Gemini «дурнуваті» запитання про гру. Після того як штучний інтелект почав видавати, як здалося розробнику, напрочуд маловідомі деталі, його попросили перевірити інформацію про майбутній контент.

У відповідь Gemini нібито назвав Vantage Tripod — персонажа, про якого розробник, за його словами, нікому не розповідав . Як доказ Klub Kofta Studio показала скриншоти листування в Discord.

«Якимось чином ШІ видав точне й дуже специфічне ім’я персонажа “Vantage Tripod”, про яке я нікому не розповідав», — написав розробник на Reddit. За його словами, єдиним місцем, де ця інформація існувала в цифровій формі, був його власний Google-документ, а безпосередньо до ШІ звертався не він .

Фанати раніше знали про запланованого персонажа Tripod Fish, але повне ім’я «Vantage Tripod» не розголошувалося. Розробник також стверджував, що Gemini відтворив точні деталі ще не випущених механік, які він додав до того самого документа лише напередодні .

Що відповів Google

У коментарях для Polygon, Android Authority та інших видань представник Google заперечив, що Gemini навчається на приватних файлах Google Workspace, зокрема Google Docs. Компанія заявила, що не сканує приватні документи для навчання своїх моделей .

За поясненням Google, Gemini може отримати доступ до Google Drive або Docs лише за явного дозволу користувача й для конкретного завдання — наприклад, підсумовування документа .

Водночас компанія не запропонувала окремого пояснення, як саме чатбот міг видати рядок «Vantage Tripod», якщо опис розробника є точним .

Чому витік не вдалося повторити

Після публікації заяви журналісти, розробники та учасники спільноти ставили Gemini схожі запитання про Operation Octo. Жодна з відомих спроб не дала ані імені «Vantage Tripod», ані аналогічних подробиць про невипущений контент .

Ба більше, сам розробник повідомив, що користувач, який першим отримав цю відповідь, також не зміг відтворити її . Повного журналу запитів, контрольованого тесту чи технічного аудиту, який підтверджував би доступ Gemini до приватного документа, оприлюднено не було .

Через це кілька видань припустили, що йдеться про одноразову галюцинацію ШІ — випадково згенероване правдоподібне ім’я, а не справжнє вилучення даних із Google Docs . Однак остаточної причини інциденту наразі не встановлено.

Які питання це порушує

Нечіткі межі доступу до даних

Навіть після категоричного заперечення Google користувачам складно самостійно перевірити, які саме приватні або напівприватні дані можуть використовуватися під час навчання чи формування відповідей ШІ . Така непрозорість підриває довіру до хмарних сервісів, коли в них зберігають конфіденційні матеріали.

Незрозумілий механізм пошуку відповідей

Сучасні інструменти ШІ можуть працювати з проіндексованими вебсторінками, кешованим вмістом, відкритими посиланнями та іншими джерелами екосистеми пошуку. Якщо користувач не розуміє, звідки саме взялася відповідь, йому важко оцінити ризик для комерційної таємниці чи планів майбутнього релізу .

Галюцинація теж може завдати шкоди

Упевнено вигадане ім’я, яке звучить як справжній секрет, здатне спричинити не менше проблем, ніж реальний витік. Компанії та розробники можуть вирішити, що їхні дані скомпрометовано, навіть якщо ШІ просто згенерував правдоподібну комбінацію слів .

Ризики для комерційної таємниці

Якщо конфіденційна інформація раптом з’являється у відповіді чатбота, це може поставити під сумнів її фактичну секретність — незалежно від того, отримав ШІ ці дані з документа чи вигадав їх. Для бізнесу це створює додаткові побоювання щодо зберігання планів і робочих матеріалів у хмарних сервісах .

Висновок

Історія з «Vantage Tripod» поки що не доводить, що Google Gemini отримав доступ до приватного Google-документа. Заява розробника залишається неперевіреною, Google заперечує використання приватних документів для навчання моделей, а повторити результат нікому не вдалося.

Найобережніше пояснення наразі — одноразова галюцинація або невідомий збіг обставин. Але сам інцидент показує головну проблему непрозорих систем ШІ: навіть без доведеного витоку вони можуть створити враження, що конфіденційні дані більше не є конфіденційними.