AnswersPublished17 sources
Kajian Wake Forest Dedah Kebocoran Kredensial AI yang Meluas dalam Agent Skills dan Aplikasi iOS
Penyelidik Wake Forest menemui 520 agent skills yang membocorkan kredensial dalam sampel 17,022 kemahiran, manakala 282 daripada 444 aplikasi iOS mendedahkan akses AI yang boleh dieksploitasi. Dalam kajian agent skills, 89.6% kes terjejas dilaporkan boleh dieksploitasi serta merta; log nyahpepijat, kod tidak selamat...
Diterbitkan olehDisunting dengan GPT-5.6 LunaImej dijana dengan GPT Image 1.5
Research answer
Key takeaways
- Penyelidik Wake Forest menemui 520 agent skills yang membocorkan kredensial dalam sampel 17,022 kemahiran, manakala 282 daripada 444 aplikasi iOS mendedahkan akses AI yang boleh dieksploitasi.
- Dalam kajian agent skills, 89.6% kes terjejas dilaporkan boleh dieksploitasi serta merta; log nyahpepijat, kod tidak selamat dan arahan berasaskan prompt merupakan antara laluan utama kebocoran.
- Produk AI memerlukan kawalan keselamatan sejak peringkat reka bentuk, termasuk penyimpanan kunci di pelayan, akses berkeistimewaan minimum, pengimbasan rahsia, log yang ditapis dan semakan marketplace yang lebih ketat.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did a Wake Forest University study of AI-agent skills and iOS applications reveal about credential leakage—including the number of skil. Article summary: Wake Forest researchers found that credential leakage is widespread in both third-party AI-agent skills and LLM-enabled iOS apps—and that most leaked credentials can be abused immediately. The studies point to insecure d. Topic tags: general, education, academic, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, water
Penyelidikan Universiti Wake Forest menunjukkan satu kelemahan yang merentasi dua ekosistem AI yang berkembang pesat: kredensial sering diletakkan di lokasi yang boleh dicapai oleh ejen, aplikasi atau penyerang. Satu kajian meneliti 17,022 agent skills pihak ketiga dan menemui 520 kemahiran terjejas yang mengandungi 1,708 isu keselamatan. Kajian berkaitan terhadap 444 aplikasi iOS yang menggunakan model bahasa besar (LLM) pula mendapati 282 aplikasi mendedahkan kredensial atau mekanisme akses backend semasa ujian. 1
2
4
Risikonya bukan sekadar kewujudan rentetan teks seperti kunci API yang bocor. Kunci atau token yang terdedah boleh memberikan akses kepada data peribadi, keupayaan ejen atau penggunaan model berbayar menggunakan akaun pembangun.
Apa yang ditemui dalam kajian agent skills
Penyelidik memilih 17,022 kemahiran daripada 170,226 artifak di SkillsMP, sebuah marketplace kemahiran ejen AI sumber terbuka. Mereka menggabungkan pengesanan rahsia secara statik, ujian dinamik dalam sandbox menggunakan kredensial olok-olok, serta perbandingan antara tujuan yang dinyatakan oleh sesuatu kemahiran dengan tingkah lakunya ketika dijalankan. 3
4
Analisis itu mengenal pasti:
- 520 kemahiran terjejas yang mengandungi 1,708 isu keselamatan, merangkumi 10 pola kebocoran kredensial.
4
16
- 466 daripada 520 kemahiran terjejas mendedahkan kredensial yang boleh digunakan tanpa keistimewaan tambahan, bersamaan kadar 89.6% keboleheksploitan serta-merta yang dilaporkan.
1
- 76.3% kes kebocoran memerlukan pemeriksaan terhadap kedua-dua arahan bahasa semula jadi dan kod.
- 3.1% kes melibatkan suntikan prompt dalam bahasa semula jadi tanpa kod boleh laku.
Dapatan ini bermakna semakan kod konvensional sahaja mungkin tidak mencukupi. Sesuatu kemahiran boleh kelihatan seperti menjalankan tugas yang sah, namun arahan atau skrip sokongannya mungkin mendedahkan rahsia ketika proses itu berjalan.
Log nyahpepijat boleh menukar rahsia menjadi data yang boleh dibaca model
Log nyahpepijat muncul sebagai salah satu pola kebocoran paling penting. Dalam rangka kerja ejen yang memasukkan output standard ke dalam konteks model, kredensial yang dicetak melalui fungsi seperti print atau console.log mungkin boleh dicapai hanya melalui permintaan bahasa semula jadi biasa. Ringkasan kajian mengenal pasti log nyahpepijat sebagai vektor utama dan mengaitkan 73.5% kebocoran dengan pendedahan output kepada LLM. 4
Risiko ini tidak terhad kepada kunci API yang ditulis secara terus dalam kod. Kredensial juga boleh terdedah melalui skrip, pengendalian pemboleh ubah persekitaran, log, arahan prompt atau gabungan kod dan bahasa yang hanya menjadi berbahaya ketika pelaksanaan biasa.
Pembangunan berniat jahat dan kecuaian kedua-duanya menyumbang
Penyelidikan itu menerangkan dua punca utama kebocoran kredensial:
- Pembangunan berniat jahat: pembangun sengaja memasukkan arahan atau muatan yang direka untuk mengumpul kredensial atau data peribadi, dan berpotensi menghantarnya ke pelayan jauh.
- Pembangunan cuai: pembangun gagal mengamalkan amalan pengekodan selamat lalu secara tidak sengaja meninggalkan kredensial atau laluan akses yang boleh digunakan penyerang.
Perbezaan ini penting untuk langkah pemulihan. Kandungan berniat jahat memerlukan saringan dan penghapusan, manakala pendedahan tidak sengaja memerlukan pengurusan rahsia yang lebih baik, log yang lebih selamat, kawalan pengesahan serta ujian sebelum pengedaran.
Selepas SkillsMP dimaklumkan, Wake Forest berkata semua kemahiran berniat jahat yang dikenal pasti telah dibuang dan kebanyakan kemahiran terdedah telah dibaiki. Namun, kajian itu memberi amaran bahawa membersihkan repositori asal mungkin tidak mencukupi: salinan fork boleh terus menyimpan kredensial yang terdedah walaupun sumber asal sudah dibaiki. 1
4
Kajian iOS temui laluan berbeza kepada pengambilalihan akaun LLM
Kajian berkaitan terhadap 444 aplikasi iOS yang mempunyai ciri LLM mendapati 282 aplikasi—kira-kira 64%—mendedahkan kredensial LLM atau mekanisme akses backend yang boleh dieksploitasi melalui trafik rangkaian. 2
5
Pola pendedahan yang dilaporkan termasuk:
- Token berasaskan JWT yang boleh digunakan semula: 48%
- Proksi backend tanpa pengesahan: 33%
- Penghantaran kunci API dalam teks biasa: 19%
3
Kelemahan ini boleh dilihat ketika aplikasi digunakan seperti biasa. Penyerang yang menangkap kunci, menggunakan semula token atau menemui proksi terbuka mungkin dapat menghantar permintaan melalui akaun LLM pembangun. Tindakan itu boleh menghabiskan kuota inferens berbayar, menyalahgunakan sumber awan berkaitan atau menghasilkan caj penggunaan tanpa kebenaran. 2
5
Bukti yang ada menyokong kemungkinan pendedahan bil yang besar atau berpotensi tidak terhad, bergantung pada had akaun dan tempoh pencerobohan. Namun, bukti tersebut tidak membuktikan secara bebas jumlah kerugian khusus seperti “ratusan ribu dolar”.
Pemulihan juga berjalan perlahan. Tiga bulan selepas pendedahan bertanggungjawab dibuat, hanya 28% aplikasi iOS terjejas telah membaiki kelemahan yang dilaporkan, manakala 72% masih boleh dieksploitasi dalam susulan kajian. 3
11
Mengapa dapatan ini penting untuk pembangunan berbantukan AI
Secara keseluruhan, kedua-dua kajian menunjukkan bahawa menambah ciri AI atau memasang agent skill yang boleh diguna semula boleh meluaskan permukaan serangan sesebuah aplikasi. Risiko baharu termasuk:
- Kunci pembekal yang disematkan dalam aplikasi pengguna atau terdedah dalam konteks ejen
- Alat berkeistimewaan tinggi yang boleh mencapai fail, perkhidmatan atau data peribadi
- Log yang tanpa sengaja menjadi sebahagian daripada konteks yang boleh dibaca model
- Titik akhir backend yang menerima permintaan tanpa pengesahan mencukupi
- Token yang boleh digunakan semula oleh penyerang
- Caj penggunaan LLM yang boleh dijana penyerang melalui akaun pembangun
Kebimbangan ini semakin ketara apabila pembangun menggunakan “vibe coding” berbantukan AI untuk menjana dan menggabungkan perisian dengan pantas. Kepantasan tidak boleh menggantikan pemodelan ancaman: pengesahan, pengendalian rahsia, kebenaran akses, pengelogan dan semakan kebergantungan masih memerlukan kejuruteraan yang teliti. Kajian agent skills turut melaporkan bahawa 72% kes kredensial yang ditulis terus dalam kod menunjukkan ciri pembangunan berbantukan AI, sekali gus mencadangkan pola tidak selamat mungkin tersebar melalui kod yang dijana atau dipasang dengan cepat. 4
Amalan keselamatan sejak peringkat reka bentuk
Dapatan kajian menyokong garis asas pertahanan berikut untuk pasukan yang membina produk AI atau mengedarkan agent skills:
- Jauhkan kunci pembekal yang berjangka panjang daripada peranti pengguna dan konteks model. Halakan panggilan model sensitif melalui pelayan yang mempunyai pengesahan.
- Gunakan kredensial berjangka pendek dan berskop terhad. Amalkan prinsip keistimewaan minimum dan sahkan token, bukannya menganggap pemilikan token sudah memadai sebagai kebenaran.
- Tapis rahsia daripada log dan output standard. Anggap apa-apa yang dihantar ke konteks ejen berpotensi diperoleh semula oleh model atau pengguna.
- Imbas kod, konfigurasi, prompt dan kebergantungan untuk mencari rahsia. Dapatan agent skills menunjukkan mengapa arahan bahasa semula jadi dan kod boleh laku perlu disemak bersama.
- Uji trafik rangkaian dan kebenaran backend. Pastikan permintaan yang dipintas tidak boleh digunakan semula atau dialihkan melalui proksi tanpa pengesahan.
- Putar ganti kredensial yang terdedah serta semak fork dan salinan. Membuang rahsia daripada repositori asal tidak menjamin setiap versi yang diedarkan telah dibersihkan.
- Wujudkan semakan peringkat platform sebelum pengedaran. Saringan marketplace, panduan pembangun, pendedahan bertanggungjawab dan pemeriksaan automatik boleh melengkapi kesedaran pembangun individu.
Kesimpulan utamanya mudah: keselamatan AI tidak boleh ditambah hanya selepas produk dilancarkan. Kredensial, keizinan ejen, konteks model dan kawalan bil perlu dianggap sebagai teras keselamatan produk sejak awal pembangunan.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Kajian Wake Forest Dedah Kebocoran Kredensial AI yang Meluas dalam Agent Skills dan Aplikasi iOS"?
Penyelidik Wake Forest menemui 520 agent skills yang membocorkan kredensial dalam sampel 17,022 kemahiran, manakala 282 daripada 444 aplikasi iOS mendedahkan akses AI yang boleh dieksploitasi.
What are the key points to validate first?
Penyelidik Wake Forest menemui 520 agent skills yang membocorkan kredensial dalam sampel 17,022 kemahiran, manakala 282 daripada 444 aplikasi iOS mendedahkan akses AI yang boleh dieksploitasi. Dalam kajian agent skills, 89.6% kes terjejas dilaporkan boleh dieksploitasi serta merta; log nyahpepijat, kod tidak selamat dan arahan berasaskan prompt merupakan antara laluan utama kebocoran.
What should I do next in practice?
Produk AI memerlukan kawalan keselamatan sejak peringkat reka bentuk, termasuk penyimpanan kunci di pelayan, akses berkeistimewaan minimum, pengimbasan rahsia, log yang ditapis dan semakan marketplace yang lebih ketat.