คำตอบเผยแพร่แล้ว17 แหล่งที่มา
งานวิจัย Wake Forest พบคีย์ AI รั่วไหลใน Agent Skills และแอป iOS จำนวนมาก
นักวิจัย Wake Forest พบ Agent Skills ที่มีการรั่วไหลของข้อมูลรับรอง 520 รายการจากตัวอย่าง 17,022 รายการ และพบแอป iOS ที่เปิดเผยช่องทางเข้าถึงบริการ AI 282 จาก 444 แอป ในกลุ่ม Agent Skills ที่ได้รับผลกระทบ 89.6% ถูกระบุว่าสามารถนำไปใช้โจมตีได้ทันที โดยมีทั้งการบันทึกข้อมูลที่ไม่ปลอดภัย โค้ดที่มีช่องโหว่ และคำสั่งหลอก...
เผยแพร่โดยแก้ไขด้วย GPT-5.6 Lunaรูปภาพสร้างด้วย GPT Image 1.5
คำตอบการวิจัย
ประเด็นสำคัญ
- นักวิจัย Wake Forest พบ Agent Skills ที่มีการรั่วไหลของข้อมูลรับรอง 520 รายการจากตัวอย่าง 17,022 รายการ และพบแอป iOS ที่เปิดเผยช่องทางเข้าถึงบริการ AI 282 จาก 444 แอป
- ในกลุ่ม Agent Skills ที่ได้รับผลกระทบ 89.6% ถูกระบุว่าสามารถนำไปใช้โจมตีได้ทันที โดยมีทั้งการบันทึกข้อมูลที่ไม่ปลอดภัย โค้ดที่มีช่องโหว่ และคำสั่งหลอกโมเดล
- นักวิจัยแนะนำให้เก็บคีย์ไว้ฝั่งเซิร์ฟเวอร์ ใช้สิทธิ์เท่าที่จำเป็น สแกนหาความลับ ปิดบังข้อมูลในล็อก และเพิ่มการตรวจสอบแพลตฟอร์มเพื่อรองรับการพัฒนาซอฟต์แวร์ด้วย AI
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: What did a Wake Forest University study of AI-agent skills and iOS applications reveal about credential leakage—including the number of skil. Article summary: Wake Forest researchers found that credential leakage is widespread in both third-party AI-agent skills and LLM-enabled iOS apps—and that most leaked credentials can be abused immediately. The studies point to insecure d. Topic tags: general, education, academic, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, water
งานวิจัยจากมหาวิทยาลัย Wake Forest ชี้ให้เห็นจุดอ่อนร่วมของระบบนิเวศ AI ที่กำลังเติบโตอย่างรวดเร็วสองด้าน นั่นคือข้อมูลรับรอง เช่น API key และโทเคน มักถูกวางไว้ในตำแหน่งที่เอเจนต์ แอป หรือผู้โจมตีสามารถดึงไปใช้ได้
การศึกษาหนึ่งตรวจสอบ Agent Skills จากผู้พัฒนาภายนอกจำนวน 17,022 รายการ และพบ 520 รายการที่มีปัญหา รวมทั้งหมด 1,708 ประเด็นด้านความปลอดภัย ขณะที่อีกการศึกษาซึ่งทดสอบแอป iOS ที่ใช้ฟีเจอร์ LLM จำนวน 444 แอป พบ 282 แอปที่เปิดเผยข้อมูลรับรองหรือช่องทางเข้าถึงระบบหลังบ้านระหว่างการทดสอบ 1
2
4
ความเสี่ยงไม่ได้มีแค่การเห็นข้อความคีย์หลุดเท่านั้น คีย์หรือโทเคนที่ถูกเปิดเผยอาจทำให้ผู้โจมตีเข้าถึงข้อมูลส่วนตัว ใช้ความสามารถของเอเจนต์ หรือส่งคำขอไปยังโมเดลแบบคิดค่าบริการผ่านบัญชีของนักพัฒนาได้
พบอะไรจากการศึกษา Agent Skills
นักวิจัยสุ่มเลือก Agent Skills จำนวน 17,022 รายการจากอาร์ติแฟกต์ทั้งหมด 170,226 รายการบน SkillsMP ซึ่งเป็นตลาดรวมทักษะสำหรับเอเจนต์แบบโอเพนซอร์ส จากนั้นใช้ทั้งการตรวจหาความลับในโค้ด การทดสอบแบบไดนามิกในแซนด์บ็อกซ์ด้วยข้อมูลรับรองจำลอง และการเปรียบเทียบวัตถุประสงค์ที่ผู้พัฒนาระบุไว้กับพฤติกรรมขณะทำงานจริง 3
4
ผลการวิเคราะห์ระบุว่า
- พบ Agent Skills ที่ได้รับผลกระทบ 520 รายการ และมี ปัญหาด้านความปลอดภัย 1,708 รายการ ครอบคลุมรูปแบบการรั่วไหลของข้อมูลรับรอง 10 รูปแบบ
4
16
- ในจำนวนนี้ 466 จาก 520 รายการ เปิดเผยข้อมูลรับรองที่นำไปใช้ได้โดยไม่ต้องมีสิทธิ์ระดับสูง คิดเป็นอัตรา นำไปโจมตีได้ทันที 89.6% ตามที่รายงาน
1
- การรั่วไหล 76.3% ต้องตรวจสอบทั้งคำสั่งภาษาธรรมชาติและโค้ดประกอบ จึงจะพบปัญหาได้ครบ
- 3.1% เป็นกรณีที่ใช้ prompt injection ผ่านภาษาธรรมชาติโดยไม่มีโค้ดที่ทำงานได้เข้ามาเกี่ยวข้อง
ข้อค้นพบนี้หมายความว่า การตรวจสอบเฉพาะโค้ดอาจไม่เพียงพอ Skill หนึ่งอาจอธิบายงานที่ดูถูกต้องตามปกติ แต่คำสั่งหรือสคริปต์ที่ทำงานร่วมกันอาจเปิดเผยความลับระหว่างการใช้งานจริง
ล็อกดีบักอาจเปลี่ยนความลับให้เป็นข้อมูลที่โมเดลอ่านได้
รูปแบบที่โดดเด่นเป็นพิเศษคือการบันทึกข้อมูลเพื่อดีบัก ในเฟรมเวิร์กเอเจนต์บางประเภท เอาต์พุตมาตรฐานจากโปรแกรมจะถูกส่งเข้าไปเป็นบริบทของโมเดล ดังนั้นข้อมูลรับรองที่ถูกพิมพ์ออกมาด้วยคำสั่งอย่าง print หรือ console.log อาจถูกเรียกดูได้ผ่านคำขอภาษาธรรมดาทั่วไป
บทสรุปการศึกษาระบุว่า การบันทึกข้อมูลดีบักเป็นช่องทางหลัก และการส่งเอาต์พุตให้ LLM เป็นสาเหตุของการรั่วไหล 73.5% 4
ความเสี่ยงไม่ได้จำกัดอยู่ที่ API key ซึ่งเขียนตายตัวไว้ในโค้ดเท่านั้น ข้อมูลรับรองอาจหลุดผ่านสคริปต์ ตัวแปรสภาพแวดล้อม ล็อก คำสั่งในพรอมต์ หรือการทำงานร่วมกันระหว่างโค้ดกับภาษาธรรมชาติที่ดูไม่อันตรายจนกว่าจะถูกเรียกใช้งานจริง
ทั้งเจตนาร้ายและความประมาทล้วนเป็นต้นเหตุได้
งานวิจัยแบ่งสาเหตุของการรั่วไหลออกเป็นสองกลุ่มใหญ่
- การพัฒนาโดยมีเจตนาร้าย: ผู้สร้าง Skill ฝังคำสั่งหรือเพย์โหลดเพื่อขโมยข้อมูลรับรองและข้อมูลส่วนตัว รวมถึงอาจส่งข้อมูลเหล่านั้นไปยังเซิร์ฟเวอร์ภายนอก
- การพัฒนาโดยประมาท: ผู้พัฒนาไม่ปฏิบัติตามแนวทางเขียนโค้ดอย่างปลอดภัย จึงเผลอเปิดช่องให้ข้อมูลรับรองหรือเส้นทางเข้าถึงระบบถูกโจมตีได้
ความแตกต่างนี้สำคัญต่อการแก้ปัญหา เนื้อหาที่เป็นอันตรายโดยเจตนาต้องถูกคัดกรองและนำออก ส่วนการเปิดเผยโดยไม่ตั้งใจต้องแก้ด้วยการจัดการความลับที่เหมาะสม การควบคุมการยืนยันตัวตน การจำกัดสิทธิ์ การจัดการล็อก และการทดสอบก่อนเผยแพร่
หลังได้รับแจ้งจากนักวิจัย SkillsMP ระบุผ่าน Wake Forest ว่าได้ลบ Skill ที่พบว่าเป็นอันตรายทั้งหมด และแก้ไข Skill ที่มีช่องโหว่ส่วนใหญ่แล้ว อย่างไรก็ตาม งานวิจัยเตือนว่าการทำความสะอาดพื้นที่เก็บโค้ดต้นฉบับอาจยังไม่เพียงพอ เพราะสำเนาที่ถูก fork หรือคัดลอกไปอาจยังเก็บข้อมูลรับรองที่รั่วไหลไว้ 1
4
แอป iOS เปิดอีกเส้นทางสู่การยึดบัญชี LLM
การศึกษาอีกชิ้นตรวจสอบแอป iOS ที่มีฟีเจอร์ LLM จำนวน 444 แอป และพบว่า 282 แอป หรือประมาณ 64% เปิดเผยข้อมูลรับรอง LLM หรือช่องทางเข้าถึงระบบหลังบ้านที่นำไปใช้โจมตีได้จากทราฟฟิกเครือข่าย 2
5
รูปแบบการเปิดเผยที่รายงานมีดังนี้
- โทเคนแบบ JWT ที่นำกลับมาใช้ซ้ำได้: 48%
- พร็อกซีระบบหลังบ้านที่ไม่ต้องยืนยันตัวตน: 33%
- การส่ง API key แบบข้อความธรรมดา: 19%
3
ช่องโหว่เหล่านี้อาจมองเห็นได้จากการใช้งานแอปตามปกติ ผู้โจมตีที่ดักจับคีย์ นำโทเคนกลับมาใช้ หรือค้นพบพร็อกซีที่เปิดให้ใครก็เรียกใช้ได้ อาจส่งคำขอผ่านบัญชีบริการ LLM ของนักพัฒนาได้ ผลที่ตามมาคือการใช้โควตาหรือการประมวลผลแบบคิดเงิน การใช้ทรัพยากรคลาวด์ในทางที่ผิด และค่าใช้จ่ายที่ไม่ได้รับอนุญาต 2
5
หลักฐานที่มีสนับสนุนความเป็นไปได้ของความเสียหายทางการเงินที่รุนแรง หรือค่าใช้จ่ายที่เพิ่มขึ้นอย่างต่อเนื่องได้ ขึ้นอยู่กับข้อจำกัดของบัญชีและระยะเวลาที่การบุกรุกดำเนินอยู่ แต่ยังไม่สามารถยืนยันตัวเลขความเสียหายเฉพาะเจาะจง เช่น “หลายแสนดอลลาร์” ได้โดยอิสระ
การแก้ไขช่องโหว่ก็ล่าช้าเช่นกัน หลังการเปิดเผยอย่างมีความรับผิดชอบผ่านไปสามเดือน มีแอปที่ได้รับผลกระทบเพียง 28% ที่แก้ไขแล้ว ขณะที่ 72% ยังคงถูกใช้โจมตีได้ในการติดตามผลของการศึกษา 3
11
ทำไมการพัฒนาด้วย AI จึงต้องให้ความสำคัญกับความปลอดภัยตั้งแต่ต้น
เมื่อเพิ่มฟีเจอร์ AI ให้แอป หรือติดตั้ง Agent Skill ที่นำกลับมาใช้ซ้ำได้ พื้นที่โจมตีของซอฟต์แวร์ก็ขยายตามไปด้วย ความเสี่ยงที่เพิ่มขึ้นครอบคลุมถึง
- คีย์ของผู้ให้บริการที่ฝังอยู่ในแอปฝั่งผู้ใช้ หรือถูกส่งเข้าไปในบริบทของเอเจนต์
- เครื่องมือที่มีสิทธิ์เข้าถึงไฟล์ บริการ หรือข้อมูลส่วนตัว
- ล็อกที่ถูกนำไปเป็นส่วนหนึ่งของบริบทที่โมเดลอ่านได้โดยไม่ตั้งใจ
- ปลายทางระบบหลังบ้านที่รับคำขอโดยไม่มีการยืนยันตัวตนเพียงพอ
- โทเคนที่ผู้โจมตีนำกลับมาใช้ซ้ำได้
- ค่าใช้บริการ LLM ที่ผู้โจมตีสามารถก่อขึ้นผ่านบัญชีของนักพัฒนา
ความกังวลยิ่งเพิ่มขึ้นในยุคที่นักพัฒนาใช้การเขียนโค้ดโดยอาศัย AI หรือที่มักเรียกว่า “vibe coding” เพื่อสร้างและประกอบซอฟต์แวร์อย่างรวดเร็ว แต่ความเร็วไม่อาจทดแทนการวิเคราะห์ภัยคุกคามได้ การยืนยันตัวตน การจัดการความลับ การกำหนดสิทธิ์ การบันทึกข้อมูล และการตรวจสอบไลบรารีที่นำมาใช้ยังต้องผ่านการออกแบบอย่างรอบคอบ
งานวิจัย Agent Skills ยังพบว่า 72% ของกรณีที่มีข้อมูลรับรองเขียนตายตัวในโค้ดมีสัญญาณของการพัฒนาด้วย AI ซึ่งสะท้อนว่าแนวทางที่ไม่ปลอดภัยอาจถูกสร้างและแพร่กระจายได้อย่างรวดเร็ว 4
แนวทางความปลอดภัยที่งานวิจัยสนับสนุน
ทีมที่พัฒนาผลิตภัณฑ์ AI หรือเผยแพร่ Agent Skills ควรเริ่มจากมาตรการพื้นฐานต่อไปนี้
- เก็บคีย์ของผู้ให้บริการที่มีอายุยาวไว้นอกอุปกรณ์ผู้ใช้และบริบทของโมเดล โดยส่งคำขอที่อ่อนไหวผ่านเซิร์ฟเวอร์ที่มีการยืนยันตัวตน
- ใช้ข้อมูลรับรองอายุสั้นและจำกัดขอบเขต ยึดหลักสิทธิ์เท่าที่จำเป็น และตรวจสอบโทเคนทุกครั้ง แทนการถือว่าใครมีโทเคนก็ได้รับอนุญาตโดยอัตโนมัติ
- ปิดบังข้อมูลลับในล็อกและเอาต์พุตมาตรฐาน เพราะข้อมูลที่ถูกส่งเข้าไปในบริบทของเอเจนต์อาจถูกโมเดลหรือผู้ใช้เรียกคืนได้
- สแกนโค้ด การตั้งค่า พรอมต์ และไลบรารีที่นำมาใช้เพื่อค้นหาความลับ การตรวจสอบต้องครอบคลุมทั้งคำสั่งภาษาธรรมชาติและโค้ดที่ทำงานจริง
- ทดสอบทราฟฟิกเครือข่ายและการอนุญาตบนระบบหลังบ้าน ตรวจสอบว่าคำขอที่ถูกดักจับไม่สามารถนำกลับมาใช้ซ้ำ หรือส่งผ่านพร็อกซีที่ไม่ต้องยืนยันตัวตนได้
- เปลี่ยนคีย์ที่รั่วไหลและตรวจสอบ fork รวมถึงสำเนาทั้งหมด การลบความลับจากพื้นที่เก็บโค้ดต้นฉบับไม่ได้หมายความว่าสำเนาที่เผยแพร่ไปแล้วจะถูกล้างตาม
- เพิ่มการตรวจสอบระดับแพลตฟอร์มก่อนเผยแพร่ การคัดกรองในตลาดรวม คำแนะนำสำหรับนักพัฒนา ช่องทางเปิดเผยช่องโหว่อย่างมีความรับผิดชอบ และระบบตรวจสอบอัตโนมัติควรทำงานควบคู่กัน
บทเรียนสำคัญคือความปลอดภัยของ AI ไม่ควรถูกเติมเข้ามาหลังผลิตภัณฑ์เปิดให้ใช้งานแล้วเท่านั้น คีย์ ขอบเขตสิทธิ์ของเอเจนต์ บริบทของโมเดล และการควบคุมค่าใช้บริการ ล้วนต้องถูกมองเป็นหัวใจของความปลอดภัยผลิตภัณฑ์ตั้งแต่เริ่มต้น
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "งานวิจัย Wake Forest พบคีย์ AI รั่วไหลใน Agent Skills และแอป iOS จำนวนมาก" คืออะไร
นักวิจัย Wake Forest พบ Agent Skills ที่มีการรั่วไหลของข้อมูลรับรอง 520 รายการจากตัวอย่าง 17,022 รายการ และพบแอป iOS ที่เปิดเผยช่องทางเข้าถึงบริการ AI 282 จาก 444 แอป
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
นักวิจัย Wake Forest พบ Agent Skills ที่มีการรั่วไหลของข้อมูลรับรอง 520 รายการจากตัวอย่าง 17,022 รายการ และพบแอป iOS ที่เปิดเผยช่องทางเข้าถึงบริการ AI 282 จาก 444 แอป ในกลุ่ม Agent Skills ที่ได้รับผลกระทบ 89.6% ถูกระบุว่าสามารถนำไปใช้โจมตีได้ทันที โดยมีทั้งการบันทึกข้อมูลที่ไม่ปลอดภัย โค้ดที่มีช่องโหว่ และคำสั่งหลอกโมเดล
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
นักวิจัยแนะนำให้เก็บคีย์ไว้ฝั่งเซิร์ฟเวอร์ ใช้สิทธิ์เท่าที่จำเป็น สแกนหาความลับ ปิดบังข้อมูลในล็อก และเพิ่มการตรวจสอบแพลตฟอร์มเพื่อรองรับการพัฒนาซอฟต์แวร์ด้วย AI