Nvidia นำทัพ Open Secure AI Alliance เปิด SAFE มาตรฐานรับมือภัยคุกคาม AI ในสัปดาห์แรก กว่า 120 บริษัทเข้าร่วม

SAFE เป็นกรอบที่ให้องค์กรสามารถรายงานและวิเคราะห์เหตุการณ์ภัยคุกคาม AI อย่างเป็นความลับ จากนั้นแชร์มาตรการป้องกันที่ไม่ระบุตัวตนแก่ระบบนิเวศทั้งหมด คลัง RFC อยู่ที่ github.com/OpenSecureAIAlliance/RFCs

ข้อเสนอโอเพนซอร์สเพื่อแสดงความคิดเห็น

ร่าง SAFE แรกครอบคลุม 3 ด้านหลัก:

• การรายงานเหตุการณ์อย่างเป็นความลับ — รูปแบบมาตรฐานสำหรับแชร์รายละเอียดการโจมตีและช่องโหว่ของ AI agent โดยไม่เปิดเผยข้อมูลเฉพาะบริษัท
• การวิเคราะห์ภัยคุกคามร่วม — กลไกการรวบรวมข้อมูลเหตุการณ์จากสมาชิกเพื่อสร้างสัญญาณป้องกันร่วมกัน
• แนวทางสำหรับ AI agent — กฎเฉพาะสำหรับ AI agent อัตโนมัติที่ทำงานโดยไม่ต้องมีมนุษย์ควบคุม ก่อให้เกิดความเสี่ยงรูปแบบใหม่

ผลงานเทคโนโลยีจากสมาชิกหลัก

สมาชิกหลายรายส่งซอฟต์แวร์โอเพนซอร์สพร้อมกับการประกาศ SAFE:

• Nvidia ร่วมร่าง SAFE และส่งเครื่องสแกนโมเดลและกรอบการแยก agent สำหรับตรวจจับช่องโหว่ในโมเดลโอเพนเวท
• Red Hat ร่วมพัฒนา RFC และส่งเครื่องมือกำกับดูแล agent แบบโอเพนซอร์สสำหรับบังคับใช้นโยบาย
• Amazon ส่งเครื่องมือรักษาความปลอดภัยบนคลาวด์สำหรับปรับใช้ AI agent ในวงกว้าง
• Okta ส่งเฟรมเวิร์กความปลอดภัยตัวตนและการควบคุมการเข้าถึงที่ปรับสำหรับภาระงานของ AI agent
• Cisco และ CrowdStrike ร่วมร่าง SAFE กับ Nvidia และ Red Hat

Linux Foundation บริหารจัดการโครงการและโฮสต์กระบวนการ RFC

ผู้ที่ขาดหาย: โอเพนเอไอ, แอนโทรปิก และกูเกิล

แม้ทั้งสามบริษัทจะลงนามจดหมายเปิดถึงทำเนียบขาวในปี 2025 เรียกร้องการดำเนินการด้านความปลอดภัย AI แต่ไม่มีใครเข้าร่วม OSAA ในช่วงเปิดตัว สื่อหลายสำนักชี้ว่านี่คือช่องว่างที่ชัดเจน

โอเพนเอไอและแอนโทรปิกถูกระบุว่า "หายไปอย่างมีนัยสำคัญ" จากรายชื่อผู้ร่วมก่อตั้ง แหล่งข่าวระบุว่าการไม่เข้าร่วมของโอเพนเอไอสะท้อนความตึงเครียดระหว่างค่ายโมเดลปิดและกลุ่มโอเพนซอร์สที่ Nvidia นำ กูเกิลก็ไม่ได้เข้าร่วมเช่นกัน แม้ยักษ์คลาวด์อื่นอย่างไมโครซอฟท์และอเมซอนเข้าร่วม

รายงานระบุถึงความขัดแย้งจากเหตุการณ์ก่อนหน้าที่โมเดล AI ปิดของบริษัทที่ไม่เปิดเผยชื่อขัดขวางการสืบสวนของบริษัทหนึ่งเกี่ยวกับเซิร์ฟเวอร์ที่ถูกโจมตี ซึ่งเป็นแรงจูงใจสำคัญสำหรับแนวทางโอเพนของ OSAA

สวนกลับภัย AI โมเดลโอเพนเวทจีน

การวิเคราะห์หลายชิ้นเชื่อมโยงความรวดเร็วของ OSAA กับการแข่งขันทางภูมิรัฐศาสตร์ พันธมิตรถูกตั้งขึ้นท่ามกลางความกังวลภัยคุกคาม AI โดยเฉพาะจากห้องปฏิบัติการจีน ห้องปฏิบัติการ AI จีนปล่อยโมเดลโอเพนเวททรงพลัง เช่น ดีปซีค (DeepSeek) ที่เจ้าหน้าที่สหรัฐฯ กังวลว่าอาจถูกนำไปใช้เป็นอาวุธหรือขาดการป้องกันที่แข็งแกร่ง

การทำงานที่รวดเร็วของกลุ่ม—ตั้งกลุ่มทำงานและ RFC ภายในสัปดาห์เดียว—ถูกตีกรอบเป็นสัญญาณว่าอุตสาหกรรมสามารถเคลื่อนไหวเร็วกว่าภัยคุกคามและแข่งขันกับระบบนิเวศโมเดลเปิดที่รัฐบาลจีนสนับสนุน การเปิดซอร์สเครื่องมือรักษาความปลอดภัยของตัวเอง OSAA ตั้งเป้าสร้างมาตรฐานโลกด้านความปลอดภัย AI ก่อนที่มาตรฐานแนวทางจีนจะครอบงำ และให้องค์กรที่ใช้โมเดลโอเพนเวทมีชั้นความปลอดภัยที่โมเดลจีนไม่มีโดยธรรมชาติ

การเปิดตัวถูกเร่งโดยเหตุการณ์เฉพาะวันก่อนหน้านั้นที่ AI agent อัตโนมัติเจาะเซิร์ฟเวอร์ของฮักกิ้งเฟซ (Hugging Face) ซึ่งเป็นการสาธิตให้เห็นภัยที่โมเดลโอเพนเวทจีนสามารถสร้างขึ้นในวงกว้าง