แทนที่จะถกกันว่า AI จะทำลายมนุษยชาติหรือไม่ สิงคโปร์ชวนถามว่าใครตรวจสอบและควบคุมมันได้

คำถามว่า AI อาจเป็นภัยต่อมนุษยชาติหรือไม่กลับมาร้อนแรงอีกครั้ง แต่สำหรับเสียงจากแวดวง AI ในสิงคโปร์ คำถามที่ต้องตอบทันทีคือ ระบบที่ใช้อยู่ตรวจสอบได้แค่ไหน และใครรับผิดชอบเมื่อมันลงมือทำงาน แนวทางที่ถูกหยิบยกขึ้นมาคือการประเมินโดยบุคคลภายนอก การเปิดเผยแนวปฏิบัติด้านความปลอดภัย และการจำกัดสิ่งที่ระบบเข้าถึงหรือกระทำได้ ไม่ใช่การปล่อยให้พัฒนาโดยไร้ขอบเขตหรือสั่งหยุดงาน AI ทุกอย่าง 732

คำเตือนที่จุดกระแสถกเถียง

จาค็อบ ค็อกซอน ลาออกจาก Anthropic หลังเคยทำงานทั้งที่นั่นและ OpenAI โดยกล่าวหาว่าทั้งสองบริษัทเร่งแข่งขันพัฒนา AI ที่ฉลาดเหนือมนุษย์และปรับปรุงตัวเองได้ ทั้งที่ยังรับมือความเสี่ยงไม่เพียงพอ อีแวน ฮูบิงเกอร์ นักวิจัยของ Anthropic แสดงความเห็นสนับสนุนข้อกังวลดังกล่าว และประเมินเป็นการส่วนตัวว่าโอกาสที่ AI จะทำให้มนุษยชาติสูญพันธุ์ภายในสิบปีข้างหน้าสูงกว่า 10% ตัวเลขนี้เป็นความเห็นของเขา ไม่ใช่ค่าความน่าจะเป็นที่วัดได้หรือหลักฐานว่าหายนะใกล้เกิดขึ้น 34

วันที่ 12 กันยายน ดาริโอ อาโมเดอี ซีอีโอของ Anthropic เรียกร้องให้ชะลอการพัฒนา AI พร้อมเสนอให้ผู้ประเมินภายนอกเข้าตรวจสอบการปฏิบัติตามมาตรการและการสื่อสารด้านความปลอดภัย รวมถึงรายงานเหตุการณ์ผิดปกติ ข้อเสนอนี้ทำให้การถกเถียงขยับจาก ‘ควรกังวลแค่ไหน’ ไปสู่ ‘คนนอกตรวจสอบอะไรได้จริง’ 1332

การตรวจสอบช่วยได้ แต่ไม่ใช่ใบรับรองความปลอดภัยตลอดไป

สิงคโปร์มี AI Verify ซึ่งเปิดตัวในปี 2565 เป็นเครื่องมือช่วยประเมินว่าผลลัพธ์ของ AI มีความเป็นธรรม ทนทานต่อข้อผิดพลาด และอธิบายได้เพียงใด อีกทั้งมีโครงการรับรองผู้ทดสอบ AI เพื่อเสริมขีดความสามารถด้านการตรวจสอบ อย่างไรก็ตาม การทดสอบระบบปัจจุบันไม่อาจพิสูจน์ได้ว่า AI ทุกระบบในอนาคตจะปลอดภัย 1933

การตรวจสอบอิสระจึงต้องไปไกลกว่าคำยืนยันของผู้ให้บริการว่า ‘ผ่านการทดสอบภายในแล้ว’ ผู้ประเมินต้องเข้าถึงข้อมูลมากพอจะตรวจแนวปฏิบัติและพบปัญหาที่เกิดขึ้น ส่วนองค์กรที่นำ AI ไปใช้ก็ควรได้รับความโปร่งใสและเครื่องมือควบคุมจากผู้ให้บริการ ก่อนเชื่อมระบบเข้ากับข้อมูลและขั้นตอนทำงานของตน แม้เปิดให้เข้าถึงค่าน้ำหนักโมเดล ก็ไม่ได้หมายความว่าจะมองเห็นการตัดสินใจระหว่างฝึกโมเดล ข้อผิดพลาด และมาตรการป้องกันทั้งหมด 3234

นั่นไม่ได้แปลว่าห้ามชะลอการพัฒนา ผู้เชี่ยวชาญในสิงคโปร์รายหนึ่งเสนอว่า หากผู้พัฒนาไม่สามารถควบคุมระบบได้เพียงพอ หรืออธิบายไม่ได้ว่าจะจัดการความเสี่ยงร้ายแรงอย่างไร ก็ควรหยุดกิจกรรมนั้นชั่วคราว ประเด็นคือการผูกการหยุดไว้กับความเสี่ยงที่ระบุได้ แทนการสั่งพักทุกการใช้งานแบบเหมารวม 32

ก่อนให้ AI เอเจนต์ลงมือ ต้องกำหนดว่า ‘ทำอะไรได้’

AI เอเจนต์ต่างจากระบบที่เพียงตอบคำถาม เพราะสามารถใช้เครื่องมือและดำเนินงานหลายขั้นตอนแทนคนได้ ขอบเขตอำนาจจึงเป็นเรื่องเร่งด่วน หน่วยงานพัฒนาสื่อสารสนเทศของสิงคโปร์ หรือ IMDA เปิดตัวกรอบแนวทางกำกับดูแล AI เอเจนต์ในเดือนมกราคม 2569 โดยแนะนำให้ประเมินความเสี่ยงล่วงหน้า และจำกัดระดับการทำงานอัตโนมัติ รวมถึงการเข้าถึงเครื่องมือและข้อมูล ฉบับปรับปรุงระบุหลักให้สิทธิ์เท่าที่จำเป็นต่อการทำงาน กรอบนี้เป็น แนวทาง ไม่ใช่กฎหมายที่ห้ามใช้งานเอเจนต์โดยรวม 504852

ในทางปฏิบัติ องค์กรควรระบุคนรับผิดชอบเอเจนต์แต่ละตัว จำกัดสิทธิ์ บันทึกการกระทำให้ตรวจย้อนหลังได้ ออกแบบให้ย้อนคืนการกระทำได้เมื่อเป็นไปได้ และติดตามการทำงานอย่างต่อเนื่อง สิ่งเหล่านี้ตรวจสอบได้มากกว่าคำรับรองกว้าง ๆ ว่าเอเจนต์ ‘ปลอดภัย’ 34 โจเซฟีน เตียว รัฐมนตรีสิงคโปร์ เคยเปรียบเทียบบทบาทของมาตรการและมาตรฐานความปลอดภัย AI ในการสร้างความไว้วางใจ กับแนวปฏิบัติด้านความปลอดภัยของการบินพลเรือน 17

หัวใจของแนวทางนี้คือ รับผิดชอบต่อสิ่งที่ยังไม่แน่นอน: ทดสอบสิ่งที่ทดสอบได้ เปิดให้ตรวจจากภายนอก และอย่าให้อำนาจที่ยังควบคุมอย่างปลอดภัยไม่ได้ วิธีเหล่านี้ไม่ยุติข้อถกเถียงเรื่องความเสี่ยงระยะยาวของ AI แต่กำหนดสิ่งที่ผู้พัฒนาและผู้ใช้งานต้องลงมือทำได้ตั้งแต่วันนี้ 3248