ชะลอ AI ไม่ใช่หยุดใช้: เงื่อนไขสำคัญที่ทำให้การกำกับดูแลได้ผล

การชะลอ AI ที่มีความหมายควร ชะลอการพัฒนา AI ระดับแนวหน้า ไม่ใช่หยุดใช้ AI ทั่วทั้งเศรษฐกิจ ข้อเรียกร้องจากผู้บริหารบริษัท AI รายใหญ่ทำให้การประเมินโดยผู้ตรวจสอบอิสระและการประสานงานระหว่างประเทศกลายเป็นประเด็นสำคัญ แต่การเปลี่ยนข้อเสนอให้เป็นมาตรการคุ้มครองที่น่าเชื่อถือต้องมีมากกว่าคำมั่นโดยสมัครใจ กล่าวคือ การประเมินต้องเป็นอิสระ การตัดสินใจว่าจะปล่อยระบบหรือไม่ต้องมีผลตามมา และกติกาควรเข้มข้นขึ้นตามระดับความเสี่ยง

สิงคโปร์มีเครื่องมือสำหรับต่อยอดอยู่แล้ว ทั้งกรอบกำกับดูแล AI เอเจนต์ เครื่องมือทดสอบ AI Verify และโครงการรับรองผู้ทดสอบ AI จากภายนอก ความท้าทายต่อไปคือการเชื่อมเครื่องมือเหล่านี้เข้ากับเกณฑ์ตัดสินใจที่ชัดเจนและอิงหลักฐาน สำหรับระบบที่ถูกนำไปใช้งานจริง 4

ข้อเรียกร้องให้ชะลอ AI บอกอะไร—and ยังไม่ได้บอกอะไร

ข้อเสนอที่ถูกพูดถึงมุ่งเน้นจังหวะการพัฒนา AI ระดับแนวหน้า (frontier AI) ซึ่งหมายถึงระบบที่มีความสามารถสูงที่สุด ประเด็นคือมาตรการความปลอดภัยและการกำกับดูแลจากภายนอกอาจตามไม่ทันเมื่อความสามารถของระบบพัฒนาเร็วขึ้น ข้อเสนอที่ปรากฏในรายงานข่าวรวมถึงการให้ผู้ประเมินภายนอกเข้าถึงบริษัท AI แนวหน้าอย่างต่อเนื่อง การประสานมาตรฐานความปลอดภัย และความร่วมมือระหว่างประเทศในวงกว้างขึ้น

ข้อเสนอเหล่านี้สะท้อนความสนใจที่เพิ่มขึ้น แต่ยังไม่ใช่นโยบายที่ตกลงกันแล้วหรือข้อตกลงที่มีผลผูกพันระหว่างบริษัท AI รายงานความปลอดภัย AI ระหว่างประเทศระบุว่าแนวทางบริหารความเสี่ยงยังอยู่ระหว่างพัฒนา และโครงการของบริษัทส่วนใหญ่ยังเป็นไปโดยสมัครใจ จุดนี้สำคัญ เพราะคำมั่นว่าจะทดสอบโมเดลไม่ได้ทำให้เกิดกติกาที่บังคับให้บริษัทเลื่อนการเปิดตัว เมื่อยังพบความเสี่ยงร้ายแรง

เปลี่ยนการชะลอให้เป็นด่านตัดสินใจก่อนปล่อยระบบ

แนวทางที่นำไปใช้ได้จริงควรกำหนดเงื่อนไขเข้มงวดขึ้นสำหรับระบบที่มีความสามารถสูงหรือได้รับอำนาจตัดสินใจมาก ขณะเดียวกันก็ไม่ควรสั่งหยุดการใช้ AI ทุกประเภท เครื่องมือช่วยร่างข้อความที่มีผลกระทบต่ำไม่ควรถูกกำกับแบบเดียวกับเอเจนต์ที่ได้รับอนุญาตให้ลงมือทำสิ่งที่มีผลสำคัญ กรอบของสิงคโปร์สำหรับ AI เอเจนต์เสนอให้องค์กรประเมินและจำกัดความเสี่ยง รวมถึงกำหนดจุดที่ต้องให้มนุษย์อนุมัติก่อนดำเนินการสำคัญหรืออ่อนไหว 46

สำหรับโมเดลแนวหน้าและการใช้งานที่มีผลกระทบสูง ผู้กำหนดนโยบายอาจต่อยอดหลักการนี้ด้วยกระบวนการก่อนปล่อยระบบ ซึ่งประกอบด้วย:

• ประเมินก่อนเปิดตัวโดยผู้ตรวจสอบอิสระ: ให้ผู้ประเมินภายนอกที่มีคุณสมบัติเข้าถึงระบบและหลักฐานที่เกี่ยวข้องอย่างปลอดภัย พร้อมตรวจสอบความสามารถที่อาจก่ออันตรายและการนำไปใช้ในทางที่คาดการณ์ได้ ข้อเสนอเรื่องการเข้าถึงบริษัทแนวหน้าอย่างต่อเนื่องโดยผู้ประเมินปรากฏในข้อเรียกร้องล่าสุดให้ชะลอการพัฒนา AI ระดับแนวหน้า แต่ยังไม่ใช่ข้อกำหนดที่ใช้กับทุกบริษัท
• กำหนดเกณฑ์และผลที่จะตามมาให้ชัด: เปิดเผยหรือกำหนดให้ชัดเจนว่า ผลการประเมินแบบใดจะนำไปสู่มาตรการคุ้มครองเพิ่มเติม การจำกัดการเข้าถึง หรือการเลื่อนเปิดตัว หากผลทดสอบไม่ผ่าน ควรมีคำตอบที่บันทึกไว้ และเมื่อความเสี่ยงมีนัยสำคัญ ก็ควรชะลอการเปิดตัว ไม่ใช่เพียงส่งกลับไปทบทวนภายในอีกครั้ง นี่คือข้อเสนอด้านการกำกับดูแล ไม่ใช่ข้อกำหนดที่ระบุอยู่ในกรอบปัจจุบันของสิงคโปร์ 4
• ปรับมาตรการให้เหมาะกับการใช้งาน: สำหรับเอเจนต์ที่ได้รับอำนาจทำสิ่งสำคัญ ควรพิจารณาจำกัดสิทธิ์การเข้าถึง กำหนดให้มนุษย์อนุมัติในจุดตัดสินใจสำคัญ ติดตามการทำงาน และระบุผู้รับผิดชอบให้ชัด กรอบของสิงคโปร์สนับสนุนการจำกัดความเสี่ยงและการกำกับดูแลโดยมนุษย์อย่างมีความหมาย ส่วนมาตรการที่ใช้จริงควรสอดคล้องกับระบบและบริบทการใช้งาน 48
• ประเมินใหม่เมื่อระบบเปลี่ยนแปลงอย่างมีนัยสำคัญ: ทดสอบอีกครั้งเมื่อมีการเปลี่ยนแปลงสำคัญกับโมเดล เครื่องมือที่เชื่อมต่อ หรือบริบทการใช้งาน แทนที่จะถือว่าผลทดสอบครั้งก่อนรับประกันความปลอดภัยได้ตลอดไป นี่เป็นข้อเสนอเพื่อให้การประเมินยังใช้ได้จริงเมื่อระบบที่นำไปใช้มีการเปลี่ยนแปลง

ส่วนการใช้งานที่มีความเสี่ยงต่ำควรมีเส้นทางอนุมัติที่ง่ายและเบากว่า กติกาที่อิงความเสี่ยงช่วยเปิดทางให้ธุรกิจนำ AI ไปใช้ได้ โดยไม่ถือว่าผลทดสอบที่ผ่านเป็นหลักฐานว่าระบบปลอดภัยในทุกบริบท กฎหมาย AI ของสหภาพยุโรปเป็นตัวอย่างหนึ่งของการกำกับที่จัดระดับตามความเสี่ยงของการใช้งาน AI

กติกาควรกำหนดโดยสาธารณะ ส่วนการทดสอบต้องเป็นอิสระ

ความร่วมมือระหว่างประเทศช่วยให้ผลประเมินเปรียบเทียบกันได้มากขึ้น และลดแรงจูงใจให้บริษัทเลือกพื้นที่กำกับดูแลที่ผ่อนปรนที่สุด รัฐบาลสามารถร่วมกันพัฒนาวิธีทดสอบที่ใช้เทียบเคียงกันได้ การแบ่งปันข้อมูลเหตุการณ์ และข้อกำหนดขั้นต่ำสำหรับระบบที่มีความเสี่ยงสูงที่สุด จากนั้นผู้ประเมินอิสระจึงตรวจสอบหลักฐานตามเกณฑ์เหล่านั้น ข้อเสนอให้ชะลอ AI ที่ถูกพูดถึงเมื่อเร็ว ๆ นี้ก็เรียกร้องให้บริษัทประสานงานกันและร่วมมือข้ามพรมแดนเช่นกัน

การแบ่งหน้าที่ให้ชัดเป็นเรื่องสำคัญ หน่วยงานรัฐควรกำหนดเกณฑ์ที่บังคับใช้ได้และผลที่จะเกิดขึ้นเมื่อไม่ผ่านเกณฑ์ บริษัทสามารถให้ความรู้ทางเทคนิคได้ แต่ไม่ควรเป็นผู้ตัดสินเพียงฝ่ายเดียวว่าระบบของตนผ่านมาตรฐานหรือไม่ ส่วนผู้ทดสอบอิสระควรใช้วิธีการที่โปร่งใสและเปิดเผยผลประโยชน์ทับซ้อน หลักการเหล่านี้เป็นแนวทางออกแบบระบบกำกับดูแลที่เสนอขึ้น ไม่ใช่สิ่งที่ยืนยันแล้วว่ามีอยู่ในข้อเรียกร้องจากภาคอุตสาหกรรม

สิงคโปร์ต่อยอดจากสิ่งที่มีได้อย่างไร

กรอบ Model AI Governance Framework for Agentic AI ของสิงคโปร์ให้แนวทางแก่องค์กรที่นำ AI เอเจนต์ไปใช้งาน รวมถึงการประเมินความเสี่ยง ความรับผิดชอบของมนุษย์ และมาตรการควบคุม อย่างไรก็ตาม กรอบนี้เป็นแนวทางสำหรับการใช้งานอย่างรับผิดชอบ ไม่ใช่ด่านอนุมัติก่อนเปิดตัวที่บังคับใช้ได้ด้วยตัวเอง 468

AI Verify มีเครื่องมือสำหรับการทดสอบ ขณะที่โครงการ AI Tester Accreditation Programme รับรองบริษัททดสอบจากภายนอกที่มีความสามารถทางเทคนิคและความพร้อมในการดำเนินงาน ทั้งสองส่วนนี้อาจช่วยให้การประเมินในภาคธุรกิจและการเงินมีความสม่ำเสมอขึ้น สิงคโปร์ยังอาจส่งเสริมรูปแบบการประเมินที่ใช้ร่วมกันได้ และเงื่อนไขสัญญาที่ระบุให้ชัดว่าผู้ให้บริการโมเดล ผู้ประกอบระบบ ผู้ใช้งาน และผู้ทดสอบต้องแสดงหลักฐานอะไรบ้าง ทั้งหมดนี้เป็นแนวทางที่อาจพัฒนาต่อ ไม่ใช่นโยบายที่กรอบซึ่งอ้างถึงได้กำหนดไว้แล้ว

เป้าหมายที่เป็นประโยชน์คือการยอมรับข้ามประเทศในส่วนของ หลักฐานและวิธีการทดสอบ ไม่ใช่อ้างว่าใบรับรองจากประเทศใดประเทศหนึ่งรับประกันความปลอดภัยของทุกระบบและทุกการใช้งาน กรอบกำกับและเครื่องมือทดสอบช่วยจัดหลักฐานให้เป็นระบบมากขึ้น แต่หน่วยงานและองค์กรยังต้องพิจารณาว่าหลักฐานนั้นครอบคลุมการใช้งานจริงและความเสี่ยงที่เกี่ยวข้องหรือไม่

ประเมินความปลอดภัย AI ความน่าเชื่อถือของซอฟต์แวร์ และความมั่นคงปลอดภัยไซเบอร์ร่วมกัน

การทดสอบคำตอบของโมเดลเป็นเพียงส่วนหนึ่งของการประเมิน AI เอเจนต์ให้ครบถ้วน ยังต้องตรวจระบบซอฟต์แวร์ที่ประกอบอยู่รอบโมเดล และความปลอดภัยของเครื่องมือหรือสิทธิ์ที่ระบบเข้าถึงได้ด้วย ประเด็นเหล่านี้เกี่ยวข้องกันแต่ไม่ใช่เรื่องเดียวกัน ได้แก่ AI อาจแสดงพฤติกรรมที่เป็นอันตรายแบบใด ระบบที่ประกอบขึ้นทั้งหมดจะทำงานอย่างไรเมื่อเกิดความล้มเหลวหรือมีการเปลี่ยนแปลง และผู้โจมตีสามารถเจาะหรือบังคับทิศทางระบบได้หรือไม่

การประเมินแบบผสมผสานนี้เป็นข้อเสนอให้ขยายแนวทางการประกันความน่าเชื่อถือ ไม่ใช่การยืนยันว่าเครื่องมือที่มีอยู่ทุกชิ้นครอบคลุมทั้งสามด้านแล้ว เอกสารของ AI Verify Toolkit ระบุการทดสอบทางเทคนิคสำหรับระบบแมชชีนเลิร์นนิงแบบดั้งเดิม เช่น ความเป็นธรรม ความสามารถในการอธิบาย และความทนทาน ดังนั้นจึงควรระบุให้ชัดว่าการใช้งาน AI เอเจนต์ต้องทดสอบระบบแบบครบวงจรเพิ่มเติมอย่างไร แทนที่จะสันนิษฐานว่าผลทดสอบระดับโมเดลรับรองระบบทั้งหมดได้แล้ว

เกณฑ์ตัดสินว่าการชะลอได้ผลจริง

การชะลอจะมีความหมายก็ต่อเมื่อหลักฐานจากการประเมินที่เป็นอิสระเปลี่ยนสิ่งที่จะเกิดขึ้นต่อไปได้: หากระบบมีความเสี่ยงสูงและมาตรการคุ้มครองยังไม่เพียงพอ ก็ต้องเลื่อน จำกัด หรือแก้ไขการเปิดตัวได้ ขณะเดียวกัน การใช้งานทั่วไปที่มีความเสี่ยงต่ำก็ควรยังมีเส้นทางนำไปใช้ที่เหมาะสม กรอบกำกับและโครงการทดสอบของสิงคโปร์เป็นพื้นฐานสำหรับสร้างระบบประกันความน่าเชื่อถือเช่นนี้ แต่ต้องกำหนดเกณฑ์ก่อนเปิดตัว การบังคับใช้ และขอบเขตการประเมินให้ชัดเจน