JawabanDipublikasikan13 sumber
Klaim Log Router LLM 6 TB: Mengapa Prompt AI Bisa Menjadi Risiko Kebocoran Kredensial
Chaofan Shou mengklaim membeli sekitar 6 TB data pemanggilan model dari router LLM China yang berisi kunci SSH, konfigurasi VPN, kredensial Alibaba Cloud, dan token GitLab. Ia menyebut kredensial tersebut diduga terkait 19 perusahaan besar China dan tujuh entitas pemerintah terkait China/CIS, termasuk Huawei, Xiaomi...
Diterbitkan olehDiedit dengan GPT-5.6 TerraGambar dibuat dengan GPT Image 2
Jawaban penelitian
Poin-poin penting
- Chaofan Shou mengklaim membeli sekitar 6 TB data pemanggilan model dari router LLM China yang berisi kunci SSH, konfigurasi VPN, kredensial Alibaba Cloud, dan token GitLab.
- Ia menyebut kredensial tersebut diduga terkait 19 perusahaan besar China dan tujuh entitas pemerintah terkait China/CIS, termasuk Huawei, Xiaomi, NIO, dan MiniMax.
- Router LLM dapat melihat isi prompt dan respons dalam bentuk teks biasa, sehingga berpotensi menjadi titik pengumpulan rahasia jika kredensial dimasukkan ke konteks agen AI.
- Organisasi perlu menghindari pengiriman rahasia lewat prompt, memakai kredensial berumur pendek, mengaudit perantara, serta membatasi dan melindungi log agen.
AI Perintah
openai.comCreate a landscape editorial hero image for this Studio Global article: What did security researcher Chaofan Shou, co-founder of Fuzzland, claim after purchasing roughly 6TB of model-invocation logs from a Chines. Article summary: Shou’s account is a serious supply-chain-risk allegation, not a verified breach report. He said that about 6 TB of “Fable” model-invocation data bought from a leading Chinese LLM router contained secrets sufficient to ac. Topic tags: general, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, char
Klaim dari peneliti keamanan sekaligus salah satu pendiri Fuzzland, Chaofan Shou, menyoroti risiko rantai pasok AI yang kerap luput diperhatikan: router, relay, atau proxy pihak ketiga yang berada di antara aplikasi dan penyedia model bahasa besar (LLM).
Shou menyatakan telah membeli sekitar 6 TB data pemanggilan model bernama “Fable” dari salah satu router LLM besar di China. Dalam unggahan publik, ia mengklaim data itu memuat kredensial yang dapat membuka akses ke sistem yang dikaitkan dengan tujuh entitas pemerintah terkait China/CIS dan 19 perusahaan besar China. Ia menyebut Huawei, Xiaomi, NIO, dan MiniMax sebagai contoh. Ini adalah klaim, bukan konfirmasi publik bahwa organisasi-organisasi tersebut telah mengalami pelanggaran keamanan. 11
Kredensial yang disebut ada dalam log
Menurut penuturan Shou dan laporan lanjutan, kumpulan data tersebut diduga memuat informasi sensitif yang dikirim pengguna melalui relay, antara lain:
Jenis kredensial tersebut dapat berdampak serius bila masih aktif, benar dikaitkan dengan pemiliknya, serta memiliki hak akses luas. Namun, informasi yang tersedia belum membuktikan apakah rahasia itu masih berlaku saat diperoleh, sudah dicabut, atau benar-benar memberi akses seperti yang diklaim Shou.
Mengapa router LLM dapat menjadi titik pengumpulan kredensial
Router LLM adalah perantara yang meneruskan permintaan dari aplikasi atau agen AI ke penyedia model di hulu. Dalam rancangan tertentu, perantara ini dapat membaca seluruh isi permintaan dan respons dalam bentuk teks biasa, termasuk prompt, konteks agen, argumen pemanggilan alat (tool call), serta keluaran model.
Makalah Your Agent Is Mine, yang turut ditulis Shou, menjelaskan bahwa router semacam itu bertindak sebagai proxy pada lapisan aplikasi dengan akses plaintext terhadap payload JSON yang sedang dikirim. Makalah tersebut juga menyatakan bahwa ekosistem ini belum menerapkan integritas kriptografis secara wajib antara klien dan model di hulu. 27
Jalur risikonya cukup langsung. Seorang engineer bisa memasukkan kunci privat, file .env, kunci cloud, profil VPN, atau konfigurasi deployment ke agen coding AI agar agen dapat mendiagnosis masalah atau mengotomatisasi pekerjaan. Jika agen memakai relay eksternal, rahasia itu berpotensi ikut terkirim sebagai bagian dari konteks permintaan.
Risikonya bukan hanya bila operator router sengaja mengumpulkan data. Logging berlebihan, kontrol akses yang lemah, kebocoran di sisi relay, atau distribusi sekunder atas log yang tersimpan dapat mengubah riwayat prompt menjadi arsip besar berisi kredensial yang dapat digunakan kembali.
Bukan sekadar mengintip: risiko manipulasi respons dan tool call
Klaim mengenai 6 TB data tersebut sejalan dengan kekhawatiran arsitektural yang lebih luas, meski tidak membuktikan adanya pelanggaran oleh router yang dirujuk Shou.
Dalam Your Agent Is Mine, para peneliti menelaah serangan perantara berbahaya pada rantai pasok agen LLM. Temuan utamanya: router yang dapat melihat lalu lintas berpotensi tidak hanya mengumpulkan data, tetapi juga mengubah respons model atau isi tool call sebelum dieksekusi agen. 27
Bagi tim yang menjalankan agen otonom atau semiotonom, perbedaannya penting:
- Paparan pasif: rahasia yang tertanam dalam prompt, jejak agen, atau argumen tool dapat terekam dalam log router.
- Manipulasi aktif: perantara dapat berupaya menulis ulang respons atau tool call, sehingga mengubah tindakan berikutnya dari agen.
- Penyalahgunaan kredensial: jalur yang disusupi atau berniat jahat dapat mengekspos kredensial dalam konteks agen atau memengaruhi cara agen menggunakannya.
Riset itu membuktikan adanya permukaan serangan pada routing LLM pihak ketiga. Namun, riset tersebut tidak secara independen mengonfirmasi asal, kelengkapan, maupun isi kumpulan data 6 TB yang kemudian diklaim Shou. 27
Hal-hal yang masih belum terverifikasi
Batas bukti perlu dijaga dengan jelas. Materi yang tersedia untuk publik belum menetapkan secara independen:
- bahwa dataset sekitar 6 TB itu autentik, lengkap, dan benar berasal dari router yang diklaim;
- identitas operator relay, maupun apakah data dijual secara sadar atau dicuri pihak luar;
- kapan data dikumpulkan, berapa lama disimpan, dan bagaimana data ditangani;
- apakah kredensial masih aktif, dikaitkan secara benar dengan entitas yang disebut, atau memiliki tingkat hak akses yang diklaim;
- bahwa Shou memakai kredensial tersebut, mengakses sistem, atau terjadi intrusi yang berhasil; serta
- adanya konfirmasi atau tanggapan resmi dari Huawei, Xiaomi, NIO, MiniMax, entitas pemerintah terkait, maupun operator relay.
11
3
Karena itu, frasa “terkait dengan” harus dipahami sebagai diduga muncul dalam dataset, bukan sebagai konfirmasi bahwa suatu perusahaan atau lembaga pemerintah telah dibobol.
Langkah yang perlu dilakukan organisasi pengguna proxy LLM
Pelajaran praktisnya tetap relevan, terlepas dari apakah klaim dataset ini nantinya terbukti. Setiap perantara eksternal yang menerima lalu lintas agen harus dinilai sebagai bagian istimewa dari batas keamanan organisasi.
1. Jangan masukkan rahasia ke prompt atau konteks agen
Hindari menempelkan kunci privat, file VPN, kunci akses cloud, token, file .env, maupun konfigurasi produksi ke dalam prompt. Terapkan pemeriksaan di sisi klien atau gateway internal untuk mendeteksi, memblokir, atau menyamarkan rahasia sebelum permintaan keluar dari organisasi.
2. Ganti kredensial yang dapat dipakai ulang dengan akses terbatas dan berumur pendek
Berikan tool kredensial yang sempit cakupannya dan segera kedaluwarsa, diambil saat diperlukan dari pengelola rahasia atau sistem identitas beban kerja. Token sementara dengan izin minimum akan membatasi dampak jika jejak agen atau log router terekspos.
3. Rotasi kredensial bila ada dugaan paparan melalui proxy
Inventarisasi semua relay dan proxy yang digunakan developer, asisten coding, serta agen. Jika kredensial sensitif mungkin pernah melewati perantara yang tidak dipercaya atau tidak diketahui, lakukan rotasi dan periksa log audit SSH, VPN, GitLab, serta cloud untuk aktivitas yang tidak wajar.
4. Utamakan koneksi langsung atau gateway internal
Bila memungkinkan, sambungkan aplikasi langsung ke penyedia model atau gunakan gateway internal yang berada dalam kendali organisasi. Jika relay pihak ketiga atau relay yang melayani rute ke China diperlukan, evaluasi kepemilikan, lokasi penyimpanan data, subprosesor, kontrol keamanan, ketentuan notifikasi insiden, serta komitmen mengenai logging, pelatihan model, penjualan, dan penggunaan sekunder data pelanggan.
5. Batasi tindakan yang boleh dijalankan agen
Wajibkan persetujuan eksplisit untuk operasi sensitif, gunakan daftar izin bagi tool dan tujuan koneksi, serta pantau perubahan yang tidak lazim pada identitas model, format respons, skema tool, atau panggilan tool keluar. Langkah ini membantu mengurangi dampak manipulasi jalur respons yang dibahas dalam riset serangan perantara. 27
6. Perlakukan log agen seperti rahasia produksi
Nonaktifkan logging konten jika memungkinkan. Bila log diperlukan, samarkan rahasia sebelum penyimpanan, enkripsi log, batasi akses, tetapkan masa retensi yang singkat dan terdokumentasi, serta cegah ekspor yang tidak terkendali. Argumen tool dan jejak agen perlu dilindungi setara dengan kode sumber, kredensial, dan konfigurasi produksi.
Intinya
Pernyataan Shou mengenai data 6 TB perlu diperlakukan sebagai tuduhan serius yang belum terverifikasi. Namun, pelajaran yang paling tahan lama bersifat arsitektural: router LLM bukan sekadar pipa netral bila dapat membaca prompt, kredensial, masukan tool, dan respons yang melaluinya. Organisasi yang menjalankan agen AI sebaiknya menganggap setiap relay eksternal sebagai perluasan dari batas komputasi tepercaya—lalu merancang kebersihan prompt, pengelolaan kredensial, logging, dan kontrol eksekusi dengan asumsi tersebut. 11
27
Studio Global AI
Lanjutkan penelitian Anda
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
Orang-orang juga bertanya
Apa jawaban singkat untuk "Klaim Log Router LLM 6 TB: Mengapa Prompt AI Bisa Menjadi Risiko Kebocoran Kredensial"?
Chaofan Shou mengklaim membeli sekitar 6 TB data pemanggilan model dari router LLM China yang berisi kunci SSH, konfigurasi VPN, kredensial Alibaba Cloud, dan token GitLab.
Apa poin penting yang harus divalidasi terlebih dahulu?
Chaofan Shou mengklaim membeli sekitar 6 TB data pemanggilan model dari router LLM China yang berisi kunci SSH, konfigurasi VPN, kredensial Alibaba Cloud, dan token GitLab. Ia menyebut kredensial tersebut diduga terkait 19 perusahaan besar China dan tujuh entitas pemerintah terkait China/CIS, termasuk Huawei, Xiaomi, NIO, dan MiniMax.
Apa yang harus saya lakukan selanjutnya dalam latihan?
Router LLM dapat melihat isi prompt dan respons dalam bentuk teks biasa, sehingga berpotensi menjadi titik pengumpulan rahasia jika kredensial dimasukkan ke konteks agen AI.