Abliteration.ai เปิดให้ใช้ AI ไร้กลไกปฏิเสธ: ประโยชน์ต่อเรดทีม หรือช่องโหว่ใหม่ด้านความปลอดภัย

Abliteration.ai กำลังทำให้แนวคิดที่ถกเถียงกันในวงการ AI แบบเปิดน้ำหนักโมเดล (open-weight) กลายเป็นบริการเชิงพาณิชย์: แก้ไขโมเดลเพื่อลดหรือถอดแนวโน้มที่จะปฏิเสธคำขอที่เป็นอันตราย แล้วเปิดให้ใช้งานออนไลน์ โมเดล GLM-5.3 ของ Z.ai ที่บริษัทดัดแปลงสามารถเรียกใช้ผ่านเบราว์เซอร์หรือ API ได้ จึงย้ายภาระจากเดิมที่ผู้ใช้ต้องมีทักษะและโครงสร้างพื้นฐานเพื่อรันโมเดลแก้ไขเอง ไปอยู่กับแพลตฟอร์มที่บริหารจัดการให้ 7

บริษัทวางตำแหน่งบริการนี้เป็นเครื่องมือสำหรับงานไซเบอร์เชิงรุก การทำ AI red teaming และการทดสอบเอเจนต์ แต่ผลทดสอบที่ TechCrunch รายงาน—ว่าระบบสร้างโค้ดเกี่ยวกับการขโมยข้อมูลรับรอง และคำแนะนำที่เกี่ยวข้องกับการเพาะเชื้อก่อโรคร้ายแรง—ทำให้ข้อกังวลหลักชัดเจนขึ้น เทคโนโลยีที่เป็นประโยชน์ต่อการป้องกันภายใต้การอนุญาต อาจลดอุปสรรคให้เกิดการใช้ในทางที่ผิดได้เช่นกัน 7

“Abliteration” คืออะไร

ในบริบทนี้ abliteration หมายถึงการปรับเปลี่ยนโมเดลเพื่อลดหรือกำจัดพฤติกรรมการปฏิเสธที่โมเดลเรียนรู้มา ไม่ใช่เพียงการใช้พรอมป์ตหาช่องหลบเลี่ยงชั้นนโยบายของแชตบอต

Abliteration.ai ระบุว่าบริษัทค้นหาทิศทางในค่าแอกทิเวชันภายในโมเดลที่สัมพันธ์กับการปฏิเสธ แล้วนำออกจากน้ำหนักของโมเดล เป้าหมายตามคำอธิบายของบริษัทคือคงความสามารถด้านการเขียนโค้ด ไซเบอร์ และเอเจนต์ไว้ ขณะเดียวกันให้โมเดลดำเนินขั้นตอนงานต่อได้ในจุดที่โมเดลซึ่งมีข้อจำกัดด้านความปลอดภัยมากกว่าจะหยุดตอบ 1315

อย่างไรก็ดี คำอธิบายวิธีการและข้ออ้างว่ายังคงความสามารถที่เป็นประโยชน์ไว้ เป็นคำกล่าวของบริษัทเอง ข้อมูลที่ให้มายังไม่มีผลประเมินจากหน่วยงานอิสระที่ยืนยันว่า GLM-5.3 เวอร์ชันดัดแปลงมีประสิทธิภาพ ความน่าเชื่อถือ หรือพฤติกรรมด้านความปลอดภัยเทียบเท่าโมเดลต้นทางในทุกด้าน 13

บริษัทเสนออะไรให้ผู้ใช้

Abliteration.ai โฮสต์โมเดล open-weight ที่ผ่านการแก้ไข รวมถึงโมเดลบนฐาน GLM-5.3 ชื่อ abliterated-model-large-v2 และทำตลาดสำหรับงานไซเบอร์เชิงรุก การทำเรดทีม และการทดสอบเอเจนต์ ผู้ใช้เข้าถึงได้ทั้งผ่านหน้าเว็บและ API 17

รูปแบบการให้บริการนี้มีความหมาย เพราะโมเดล open-weight สามารถถูกดัดแปลงและรันเองได้อยู่แล้วสำหรับผู้ที่มีทักษะและทรัพยากรคอมพิวต์เพียงพอ แต่บริการโฮสต์ทำให้โมเดลที่ถูกแก้ไขพร้อมใช้งานทันที ลดภาระในการดาวน์โหลด ปรับแต่ง และให้บริการโมเดลบนระบบของตนเอง 37

สิ่งที่ TechCrunch รายงานจากการทดสอบ

TechCrunch รายงานว่านักข่าวสร้างบัญชีบนเว็บได้อย่างรวดเร็วโดยไม่เสียค่าใช้จ่าย และได้รับคำตอบจากโมเดลโฮสต์สำหรับคำขอที่ระบบ AI กระแสหลักโดยทั่วไปมักปฏิเสธ ผลลัพธ์ที่รายงานมีทั้ง

• โค้ด Python ที่มุ่งดึงรหัสผ่าน Chrome ที่บันทึกไว้
• ขั้นตอนละเอียดสำหรับการเพาะเชื้อก่อโรคในมนุษย์ที่อันตรายภายในบ้าน 7

ตัวอย่างเหล่านี้มีนัยสำคัญ เพราะก้าวพ้นจากข้อถกเถียงเรื่องการให้ความรู้ด้านความปลอดภัยอย่างไม่เป็นอันตราย และชี้ว่าโมเดลอาจให้เนื้อหาที่เกี่ยวข้องกับการขโมยข้อมูลรับรองและอันตรายทางชีวภาพผ่านอินเทอร์เฟซโฮสต์ที่เข้าถึงได้ 7

เหตุผลของบริษัท: เพื่อให้เรดทีมป้องกันได้จริง

ข้อโต้แย้งของ Abliteration.ai เป็นข้อโต้แย้งแบบเทคโนโลยีใช้ได้สองทาง (dual-use) ที่พบได้บ่อย: ผู้ป้องกันต้องจำลองพฤติกรรมเชิงรุกเพื่อค้นหาและแก้ไขจุดอ่อน ทีมความปลอดภัยที่ทดสอบธนาคาร สายการบิน หรือองค์กรโครงสร้างพื้นฐานสำคัญ อาจต้องประเมินว่าระบบรับมือการพัฒนาเอ็กซ์พลอยต์ การสร้างเพย์โหลด ระบบอัตโนมัติที่เป็นอันตราย หรือเวิร์กโฟลว์โจมตีหลายขั้นตอนได้หรือไม่ หากผู้ช่วย AI ปฏิเสธทุกขั้นตอน บริษัทมองว่าเครื่องมือนั้นอาจไม่เพียงพอต่อการทดสอบภายใต้การอนุญาตที่สมจริง 47

การทดสอบเจาะระบบโดยได้รับอนุญาต การวิเคราะห์มัลแวร์ การแข่งขัน Capture the Flag (CTF) และงานวิจัยความปลอดภัย ล้วนเกี่ยวข้องกับเทคนิคที่อาจเป็นอันตรายนอกบริบทที่ควบคุมและได้รับอนุญาต ความยากคือความช่วยเหลือชุดเดียวกันนั้นอาจเป็นประโยชน์ต่อผู้โจมตีได้ด้วย 24

เหตุใดจึงเกิดความกังวล

การเข้าถึงแบบโฮสต์ลดอุปสรรคต่อการใช้ผิดวัตถุประสงค์

ข้อกังวลหลักไม่ใช่เพียงโมเดลที่ตัดการปฏิเสธจะมีอยู่ได้หรือไม่ เพราะโมเดล open-weight เปิดทางให้ผู้มีทักษะทดลองแก้ไขอยู่แล้ว ประเด็นคือบริการผ่านเบราว์เซอร์หรือ API ทำให้ความสามารถที่อาจก่ออันตรายเข้าถึงได้ง่ายขึ้น โดยไม่ต้องจัดการไฟล์น้ำหนักโมเดลหรือโครงสร้างพื้นฐานคอมพิวต์ด้วยตนเอง 37

ข้ออ้างว่า “ความสามารถยังอยู่ครบ” ยังไม่ผ่านการพิสูจน์อิสระ

บริษัทระบุว่าการแก้ไขระดับน้ำหนักยังรักษาความสามารถพื้นฐานด้านโค้ดและไซเบอร์ไว้ได้ แต่การเปลี่ยนน้ำหนักเพื่อปรับพฤติกรรมการปฏิเสธอาจส่งผลต่อพฤติกรรมอื่นที่โมเดลเรียนรู้มาได้เช่นกัน หลักฐานที่มีไม่ได้ให้ผลเปรียบเทียบเกณฑ์วัดในวงกว้างจากแหล่งอิสระ ซึ่งจะตอบได้ชัดว่าความสามารถ ความน่าเชื่อถือ หรือพฤติกรรมอื่นเปลี่ยนไปเพียงใดหลังการแก้ไข 1315

เจตนาของผู้ใช้ยืนยันจากพรอมป์ตได้ยาก

คำขอเกี่ยวกับโค้ดเอ็กซ์พลอยต์หรือความช่วยเหลือในลำดับการโจมตี อาจเป็นส่วนหนึ่งของการประเมินที่ได้รับอนุญาต หรืออาจเป็นการเตรียมบุกรุกจริงก็ได้ ผลลัพธ์เกี่ยวกับรหัสผ่าน Chrome และเชื้อก่อโรคที่ TechCrunch รายงาน สะท้อนว่าบริการไม่อาจอนุมานเจตนาที่ชอบธรรมจากคำอธิบายของผู้ใช้เพียงอย่างเดียวได้อย่างน่าเชื่อถือ 7

การถกเถียงเรื่องมาตรการป้องกัน: คัดกรอง ยืนยันตัวตน และตรวจสอบย้อนหลัง

รายงานของ TechCrunch ระบุว่าเส้นทางการเข้าใช้ที่ทดสอบไม่ปรากฏการควบคุมการเข้าถึงที่เข้มงวด: นักข่าวสร้างบัญชีได้อย่างรวดเร็วและใช้ระบบผ่านเบราว์เซอร์โดยไม่เสียค่าใช้จ่าย 7

รายงานที่ให้มายังไม่เพียงพอจะสรุปแบบเด็ดขาดว่าบริษัทไม่มีมาตรการควบคุมใดโดยเฉพาะ แต่ทิ้งคำถามสำคัญไว้ ได้แก่

• ตัวคัดกรองกิจกรรมอันตราย: บริการตรวจคัดพรอมป์ตหรือผลลัพธ์ที่เข้าข่ายความเสี่ยงสูงหรือไม่
• การยืนยันตัวตนลูกค้า: ผู้ใช้เชื่อมโยงกับตัวตนจริงที่ตรวจสอบและรับผิดชอบได้อย่างน่าเชื่อถือหรือไม่
• การสมัครใช้งานแบบ KYC: การเข้าถึงจำกัดเฉพาะองค์กรที่ผ่านการตรวจสอบหรือผู้เชี่ยวชาญด้านความปลอดภัยที่ได้รับอนุญาตหรือไม่
• การติดตามและบังคับใช้: มีระบบตรวจหาการใช้ผิดวัตถุประสงค์ ตรวจสอบการละเมิด และเพิกถอนสิทธิ์เข้าถึงหรือไม่

มาตรการเหล่านี้ไม่อาจลบปัญหา dual-use ได้ทั้งหมด แต่อาจทำให้การใช้แบบไม่เปิดเผยตัวตนหรือฉวยโอกาสทำได้ยากขึ้น ขณะยังเปิดช่องทางให้การทดสอบความปลอดภัยที่ได้รับอนุญาตและตรวจสอบความรับผิดชอบได้

สรุป

Abliteration.ai นำเทคนิคการดัดแปลงโมเดลมาทำเป็นบริการโฮสต์ โดยเสนอ GLM-5.3 เวอร์ชันที่ลดพฤติกรรมการปฏิเสธสำหรับงานไซเบอร์และการทดสอบเอเจนต์ 17 เหตุผลเรื่องการสนับสนุนเรดทีมมีน้ำหนักในบริบทของการป้องกัน แต่ผลทดสอบที่ TechCrunch รายงานชี้ว่าความเสี่ยงไม่ได้เป็นเพียงเรื่องสมมติ 7

โจทย์สำคัญจึงอยู่ที่การกำกับดูแล เมื่อบริการถูกออกแบบให้ช่วยในสิ่งที่โมเดลมาตรฐานมักปฏิเสธ เหตุผลด้านความปลอดภัยของบริการย่อมต้องพึ่งพาการควบคุมการเข้าถึงที่ตรวจสอบได้ การคัดกรองที่มีความหมาย และความรับผิดชอบของผู้ใช้ ไม่ใช่อาศัยเพียงการระบุว่าใช้เพื่อการป้องกันเท่านั้น