Gemini Didakwa Membocorkan Nama Watak Rahsia “Vantage Tripod”

Dakwaan itu pantas tular, lalu mendorong Google mengeluarkan penafian, komuniti cuba mengulangi keputusan berkenaan dan orang ramai kembali membahaskan sejauh mana data peribadi boleh dicapai oleh sistem AI.

Apa yang didakwa berlaku?

Klub Kofta Studio ialah pembangun solo di sebalik permainan pertahanan menara Operation Octo di Steam. Menurut catatan Reddit dan tangkap layar perbualan Discord yang dikongsikan, seorang pemain bertanya kepada Gemini tentang kandungan masa depan permainan itu.

Gemini didakwa memberikan nama yang sangat khusus, “Vantage Tripod”. Pembangun berkenaan berkata nama penuh itu tidak pernah disebutnya secara terbuka, sama ada kepada peminat, di Discord atau dalam fail permainan .

“Entah bagaimana, AI itu mengeluarkan nama watak yang tepat dan sangat khusus, ‘Vantage Tripod’, sedangkan saya tidak pernah menyebutnya kepada sesiapa,” tulis pembangun tersebut di Reddit. “Setakat yang saya tahu, satu-satunya tempat maklumat itu wujud secara digital ialah dalam salah satu Google Docs saya sendiri — dan bukan saya yang bercakap dengan AI itu!”

Sebelum ini, peminat hanya mengetahui bahawa watak “Tripod Fish” mungkin akan diperkenalkan. Nama penuh “Vantage Tripod” pula dikatakan masih dirahsiakan. Pembangun itu turut mendakwa Gemini memberikan maklumat tepat tentang mekanik permainan yang belum dikeluarkan dan baru ditulis dalam dokumen sama sehari sebelum interaksi tersebut .

Respons Google: Tiada akses kepada dokumen peribadi tanpa kebenaran

Dalam kenyataan kepada beberapa media, termasuk Polygon, Android Authority dan PC Guide, wakil Google menafikan bahawa Gemini dilatih menggunakan fail Google Workspace peribadi seperti Google Docs.

Google berkata syarikat itu tidak mengimbas dokumen peribadi untuk melatih model AI. Menurut penjelasan tersebut, Gemini hanya boleh mengakses Google Drive atau Google Docs pengguna apabila pengguna memberikan kebenaran secara jelas untuk tugasan tertentu, contohnya membuat ringkasan .

Namun begitu, Google tidak memberikan penjelasan alternatif tentang bagaimana Gemini boleh menghasilkan rentetan nama “Vantage Tripod” sekiranya dakwaan pembangun itu tepat .

Mengapa dakwaan itu sukar dibuktikan?

Selepas catatan Reddit tersebut tersebar, wartawan, pembangun dan ahli komuniti cuba bertanya soalan yang serupa kepada Gemini tentang Operation Octo. Tiada satu pun cubaan berjaya mendapatkan nama “Vantage Tripod” atau butiran belum diumumkan yang setanding .

Malah, pembangun itu sendiri mengakui pemain yang mula-mula menerima jawapan tersebut tidak dapat mengulanginya . Setakat ini, tiada audit teknikal, ujian terkawal atau rekod penuh arahan yang diterbitkan untuk mengesahkan bahawa Gemini benar-benar mengakses dokumen peribadi berkenaan .

Beberapa laporan, termasuk daripada Numerama dan The Hook, mencadangkan kemungkinan jawapan itu ialah halusinasi yang tidak boleh diulang — nama yang kedengaran munasabah dan dijana secara kebetulan melalui padanan corak AI, bukannya hasil mendapatkan maklumat daripada dokumen pembangun .

Hakikat bahawa keputusan itu hanya muncul sekali dan tidak dapat dicetuskan semula menimbulkan keraguan yang ketara. Namun, punca sebenar masih belum dapat dipastikan .

Persoalan lebih besar tentang privasi AI

Walaupun insiden ini belum membuktikan berlakunya kebocoran data, ia tetap menyerlahkan beberapa masalah penting.

Sempadan data latihan masih sukar difahami

Penafian Google tidak semestinya menghapuskan kebimbangan pengguna tentang data yang boleh dicapai oleh sistem AI. Pengguna biasa tidak mempunyai cara bebas untuk mengesahkan sama ada kandungan peribadi digunakan ketika model dilatih atau ketika jawapan dijana .

Ketidakjelasan ini sahaja sudah cukup untuk menjejaskan keyakinan terhadap alat produktiviti awan apabila ia digunakan bagi kerja sulit.

Cara AI mendapatkan maklumat tidak sentiasa jelas

Alat carian berasaskan AI boleh bergantung pada pelbagai sumber, termasuk halaman web yang diindeks, kandungan cache, pautan yang dikongsi pengguna atau data dalam ekosistem perkhidmatan yang lebih luas. Tanpa penerangan terperinci tentang cara jawapan dibina, pembangun dan perniagaan sukar memastikan rancangan pra-pelancaran atau rahsia perdagangan mereka benar-benar selamat dalam dokumen awan .

Halusinasi juga boleh menjadi risiko perniagaan

Jika AI yakin mengada-adakan nama yang kedengaran seperti rahsia sebenar, kesannya tetap boleh memudaratkan. “Kebocoran” palsu boleh mencetuskan panik, merosakkan kepercayaan dan menimbulkan tanggapan bahawa data peribadi telah terjejas — walaupun tiada kebocoran sebenar berlaku .

Rahsia perdagangan mungkin lebih sukar dilindungi

Perlindungan undang-undang bagi rahsia perdagangan bergantung pada maklumat itu kekal sulit. Jika sesuatu maklumat tiba-tiba muncul dalam jawapan chatbot, kerahsiaan tersebut boleh dipersoalkan, tanpa mengira sama ada AI mendapatkannya daripada dokumen peribadi atau sekadar menjana jawapan secara kebetulan .

Keadaan ini boleh membuatkan syarikat dan pembangun lebih berhati-hati untuk menyimpan perancangan sulit dalam alat produktiviti awan.

Kesimpulan

Insiden “Vantage Tripod” masih menjadi teka-teki privasi data yang belum terjawab. Dakwaan pembangun itu belum disahkan secara bebas dan tidak boleh diulangi, manakala Google menafikan Gemini menyalahgunakan dokumen peribadi.

Buat masa ini, halusinasi yang kebetulan kedengaran tepat mungkin merupakan penjelasan yang paling munasabah — tetapi tiada kesimpulan muktamad. Pengajaran yang lebih besar ialah jurang kepercayaan yang wujud apabila sistem AI beroperasi secara kurang telus. Bagi pembangun, syarikat dan sesiapa sahaja yang menyimpan maklumat sensitif dalam talian, risiko itu tetap perlu diambil serius.