Ro Khanna อยากรู้ว่าโมเดล AI ชั้นนำปลอดภัยจากการถูกขโมยแค่ไหน

คำถามของผู้แทนสหรัฐฯ Ro Khanna ไม่ได้มีแค่เรื่องว่าคู่แข่งจะเลียนแบบคำตอบของ AI ได้หรือไม่ แต่เจาะไปถึงความปลอดภัยของ “ส่วนแกน” ที่ทำให้โมเดลทำงาน เขาต้องการให้ OpenAI, Anthropic, Google, Meta และ xAI เปิดเผยว่าทราบถึงความพยายามเข้าถึง model weights โดยผิดกฎหมายจากจีนหรือผู้ไม่หวังดีรายอื่นหรือไม่ พร้อมอธิบายมาตรการรักษาความปลอดภัยไซเบอร์ของบริษัท 510

ประเด็นนี้ถูกมองว่าเกี่ยวข้องกับความมั่นคงแห่งชาติ เพราะหากมีผู้ได้ weights ไป ก็อาจนำโมเดลไปใช้งานโดยไม่ต้องอาศัยบริการของผู้พัฒนาเดิม ความกังวลจึงครอบคลุมทั้งการสูญเสียทรัพย์สินทางปัญญาและการที่เทคโนโลยีทรงพลังอาจถูกนำไปใช้โดยที่เจ้าของเดิมควบคุมได้ยากขึ้น 510

ขโมย weights ต่างจาก distillation อย่างไร

Model weights คือชุดพารามิเตอร์ที่เรียนรู้มาระหว่างการฝึก ซึ่งเป็นส่วนสำคัญที่กำหนดวิธีทำงานของโมเดล การขโมย weights หมายถึงการได้ข้อมูลแกนเหล่านี้มาโดยไม่ได้รับอนุญาต

ส่วน distillation หรือการกลั่นความรู้ คือการใช้คำตอบจากโมเดลหนึ่งเป็นข้อมูลฝึกให้โมเดลอีกตัว เพื่อให้โมเดลใหม่นำรูปแบบหรือความสามารถบางอย่างไปใช้ได้ วิธีนี้ไม่ได้ทำให้ผู้ทำ distillation ได้ weights ต้นฉบับของโมเดลแรกโดยอัตโนมัติ 10

OpenAI และ Anthropic เคยรายงานกรณีการทำ distillation ที่เกี่ยวข้องกับบริษัทจีน แต่รายงานที่มีระบุว่ามีกรณีขโมย weights ที่ยืนยันได้อยู่น้อย ดังนั้น ข่าวเรื่อง distillation จึงไม่ใช่หลักฐานว่าบริษัทเหล่านั้นขโมย weights ไปแล้ว และข้อมูลที่มีไม่ได้ยืนยันว่าจีนขโมย weights ของบริษัทใดในรายชื่อได้สำเร็จ 10

เหตุใดคำถามนี้จึงเป็นเรื่องความมั่นคง

Khanna เคยตั้งคำถามถึงความเสี่ยงจากการได้โมเดลด้วยวิธี distillation เทียบกับการปกป้อง weights โดยตรง 5 หากผู้ไม่หวังดีได้ weights จริง ก็อาจเข้าถึงแกนการทำงานของโมเดล ไม่ใช่เพียงส่งคำถามผ่านบริการที่บริษัทเปิดให้ใช้ ความกังวลจึงอยู่ที่ว่าบริษัทจะตรวจจับและป้องกันการพยายามเจาะระบบได้อย่างไร และจะเปิดเผยข้อมูลมากพอให้ภาครัฐประเมินความเสี่ยงได้หรือไม่ 510

อย่างไรก็ดี หลักฐานที่มีไม่ได้ยืนยันว่ามีการขโมย weights สำเร็จจากบริษัทที่ถูกระบุชื่อ คำขอให้เปิดเผยความพยายามบุกรุกจึงไม่ควรถูกตีความว่าเป็นการยืนยันว่ามีการโจรกรรมเกิดขึ้นแล้ว 10

มาตรการสมัครใจ หรือกฎที่บังคับใช้ได้

รัฐบาลประธานาธิบดีโดนัลด์ ทรัมป์ เน้นกรอบมาตรการด้านความปลอดภัยที่บริษัทเข้าร่วมโดยสมัครใจ และฝ่ายบริหารระบุว่าจะไม่ทดสอบความปลอดภัยของโมเดลแบบ open-weight ภายใต้แนวทางสมัครใจดังกล่าว 79 โมเดลแบบ open-weight คือโมเดลที่เปิดให้เข้าถึงองค์ประกอบหลักบางส่วนได้ ต่างจากโมเดลปิดที่ใช้งานผ่านบริการของผู้พัฒนาเป็นหลัก

Khanna เสนอแนวทางที่ให้น้ำหนักกับการกำกับดูแลมากกว่า ทั้งการตรวจสอบโมเดลที่เป็นข้อบังคับ การเพิ่มบทบาทของรัฐบาล และข้อตกลงด้านความปลอดภัย AI ระหว่างสหรัฐฯ กับจีนที่มีผลผูกพันและตรวจสอบได้ 123 คำถามถึงบริษัทจึงเป็นการขอข้อมูลเพื่อประเมินว่ามาตรการที่บริษัทดูแลกันเองเพียงพอหรือไม่ ไม่ใช่หลักฐานล่วงหน้าว่ามาตรการเหล่านั้นล้มเหลว

ข้อมูลสาธารณะที่มีอยู่ยังไม่ได้ระบุรายละเอียดครบถ้วนเกี่ยวกับมาตรการป้องกันของแต่ละบริษัท หรือความพยายามบุกรุกที่อาจยังไม่เปิดเผยต่อสาธารณะ