สิงคโปร์ขยายการใช้ AI ในภาครัฐอย่างไร โดยไม่ปล่อยให้เอเจนต์ทำงานได้ตามใจ

ประเด็นนี้สำคัญเพราะเอเจนต์ไม่ได้ทำได้เพียงสร้างข้อความ หากได้รับสิทธิ์และเชื่อมต่อกับระบบที่เหมาะสม มันอาจตัดสินใจ เรียกใช้เครื่องมือ หรือดำเนินงานต่าง ๆ ด้วยความเร็วระดับเครื่องจักร ทะเบียนจึงทำหน้าที่คล้ายบัญชีรายชื่อและระบบความรับผิดชอบของ “แรงงานดิจิทัล” ไม่ใช่เพียงแคตตาล็อกซอฟต์แวร์

GovTech อธิบายว่า AI Assistant Desk จะเป็นสภาพแวดล้อมผู้ช่วยดิจิทัลที่ปลอดภัยสำหรับเจ้าหน้าที่รัฐ กรณีใช้งานที่คาดไว้มีตั้งแต่การร่างรายงาน จัดการตารางเวลา เขียนโค้ด ไปจนถึงการค้นคว้าและงานประจำอื่น ๆ

การ์ดราวด์ทางเทคนิคจะเป็นตัวกำหนดขอบเขตของเอเจนต์

แนวทางที่เสนอคือใช้ระบบแวดล้อมรอบโมเดลเป็นตัวบังคับใช้ความปลอดภัย แทนที่จะพึ่งพามาตรการป้องกันที่ติดมากับโมเดล AI เพียงอย่างเดียว โดยมีการควบคุมที่ระบุไว้ เช่น

• กำหนดกฎที่ปรับให้เหมาะกับแต่ละหน่วยงานหรือกรณีใช้งาน
• อนุญาตให้ใช้เฉพาะเครื่องมือ AI ที่ผ่านการรับรอง
• จำกัดคำสั่งบางอย่าง เช่น การลบไฟล์หรือการส่งอีเมลออกไปยังภายนอก
• จำกัดจำนวนหรือรายชื่อผู้รับ เพื่อลดความเสี่ยงจากการส่งต่อข้อมูลโดยไร้การควบคุมหรือการส่งสแปม
• ตรวจสอบพรอมต์และผลลัพธ์โดยอัตโนมัติ เพื่อค้นหาภาษาที่ไม่เหมาะสมและปัญหาด้านความเรียบร้อยอื่น ๆ

หลักการเบื้องหลังคือ “สิทธิ์เท่าที่จำเป็น” หรือ least privilege เอเจนต์ควรได้รับสิทธิ์เข้าถึงข้อมูลและพื้นที่ในการดำเนินการเท่าที่ต้องใช้กับงานนั้น ๆ เท่านั้น แนวทางนี้ยิ่งสำคัญเมื่อหน่วยงานใช้หลายโมเดล หรือเชื่อมต่อเอเจนต์เข้ากับระบบรัฐบาลที่มีข้อมูลอ่อนไหว

ชั้นความปลอดภัยต้องยังทำงานได้ แม้เปลี่ยนโมเดล

AI Guardian ของ GovTech ทำหน้าที่เป็นชั้นกำกับดูแลแอปพลิเคชัน AI แยกต่างหาก โดยมีองค์ประกอบหลักสองส่วนที่ทำงานคนละช่วงของวงจรระบบ ได้แก่ Litmus ซึ่งประเมินความเสี่ยงด้านความปลอดภัยและความมั่นคงก่อนเปิดใช้งานผ่านการทดสอบเชิงโจมตี และ Sentinel ซึ่งทำหน้าที่กลั่นกรองเนื้อหาและกรองผลลัพธ์แบบเรียลไทม์เมื่อแอปพลิเคชันเริ่มให้บริการแล้ว

การแยกหน้าที่เหล่านี้ออกจากโมเดลพื้นฐานช่วยลดการพึ่งพาผู้ให้บริการรายใดรายหนึ่ง GovTech ยังระบุว่าสถาปัตยกรรมความปลอดภัยของ AI Assistant Desk ถูกออกแบบให้มาตรการป้องกันยังคงอยู่ แม้มีการเพิ่มหรือเปลี่ยนเครื่องมือ AI จากผู้ให้บริการภายนอก

ความแตกต่างนี้มีนัยสำคัญ โมเดลอาจถูกเปลี่ยนได้ แต่ข้อกำหนดของรัฐบาลเรื่องการคุ้มครองข้อมูล สิทธิ์ในการดำเนินการ การติดตามตรวจสอบ และความปลอดภัยของผลลัพธ์ควรคงที่ กรอบ Responsible AI ของ GovTech ระบุให้ความปลอดภัย ความทนทาน ความมั่นคงและความเป็นส่วนตัว ความสามารถในการอธิบาย และความโปร่งใส เป็นข้อกำหนดสำคัญ

การขยายการใช้งานมาพร้อมการสร้างทักษะ

โครงการ AI ภาครัฐของสิงคโปร์ไม่ได้จำกัดอยู่ที่เอเจนต์อัตโนมัติเท่านั้น Pair ซึ่งเป็นผู้ช่วย AI ของ GovTech รองรับงานเขียน การค้นคว้า การสรุป และการวิเคราะห์บนอุปกรณ์ที่ออกโดยรัฐบาล รวมถึงงานที่เกี่ยวข้องกับข้อมูลรัฐบาลอ่อนไหวซึ่งไม่สามารถนำไปใช้กับแชตบอตเชิงพาณิชย์ได้

GovTech ยังพัฒนาแนวทางช่วยเขียนซอฟต์แวร์ด้วย AI และเครื่องมือแบบโลว์โค้ด เพื่อให้ทีมเทคนิคและเจ้าหน้าที่รัฐสร้างต้นแบบหรือทำเวิร์กโฟลว์ให้เป็นอัตโนมัติได้รวดเร็วขึ้น รายงานก่อนหน้านี้ของ GovTech กล่าวถึงแผนพัฒนาผู้ช่วยเขียนโค้ด การใช้ AI ในงานวิศวกรรมซอฟต์แวร์ และเครื่องมือที่จะช่วยให้หน่วยงานย้ายต้นแบบไปสู่สภาพแวดล้อมที่ปลอดภัยกว่า

การฝึกอบรมก็เป็นส่วนหนึ่งของโครงสร้างพื้นฐาน GovTech มีสื่อการเรียนรู้ด้านข้อมูลและ AI สำหรับเจ้าหน้าที่รัฐ ขณะที่แผนพัฒนากำลังคนในภาพรวมของสิงคโปร์รวมถึงโครงการฝึกทักษะ AI สำหรับบุคลากรเทคโนโลยีที่ทำงานด้านการเขียนโค้ดอัตโนมัติและระบบเอเจนต์

เป้าหมายเชิงปฏิบัติคือการสร้างขีดความสามารถภายในประเทศ เจ้าหน้าที่ต้องรู้ว่าเมื่อใดควรใช้ AI ทีมเทคนิคต้องประเมินและรักษาความปลอดภัยของสิ่งที่สร้างขึ้น และหน่วยงานควรมีแพลตฟอร์มร่วม แทนที่จะปล่อยให้เกิดการทดลองที่แยกขาดจากกันจำนวนมาก

โครงการภาครัฐชี้ให้เห็นว่าการประเมินผลสำคัญแค่ไหน

LangBuddy เป็นตัวอย่างที่สะท้อนว่าการประเมินแอปพลิเคชัน AI ต้องวัดกับวัตถุประสงค์จริงของระบบ LangBuddy คือแชตบอตเสียง AI ที่ช่วยให้นักเรียนฝึกภาษาประจำชาติของตนผ่านการสนทนา

สำหรับผลิตภัณฑ์ลักษณะนี้ การประเมินที่ดีไม่ควรหยุดอยู่แค่การดูว่าแชตบอตตอบได้ลื่นไหลหรือไม่ งานประเมินของ GovTech พิจารณาทั้งความปลอดภัย ความเสี่ยงจากการสร้างข้อมูลเท็จ และการตอบตามหลักเกณฑ์ด้านการเรียนการสอนที่กำหนดไว้

หลักการเดียวกันนี้ใช้ได้กับบริการสาธารณะทุกประเภท หน่วยงานต้องทดสอบว่า AI ทำงานตรงตามภารกิจที่ออกแบบไว้หรือไม่ ปฏิบัติตามข้อจำกัดหรือไม่ และตอบสนองอย่างเหมาะสมในสถานการณ์จริงหรือไม่ ไม่ใช่เพียงฟังดูน่าเชื่อถือเท่านั้น

ความมั่นคงไซเบอร์เป็นทั้งเงื่อนไขพื้นฐานและพื้นที่ใช้งาน AI

แนวคิดด้านการกำกับดูแลแบบเดียวกันปรากฏในงานความมั่นคงไซเบอร์ของ GovTech ด้วย หน่วยงานระบุขีดความสามารถตั้งแต่การออกแบบระบบอย่างปลอดภัย การทำ red-team exercise การทดสอบเจาะระบบ โครงการเปิดเผยช่องโหว่โดยผู้เชี่ยวชาญภายนอก ไปจนถึงการทำงานของ blue team เพื่อค้นหาและรับมือภัยคุกคาม

GovTech ยังทดลองใช้ AI เสริมการทดสอบเจาะระบบ และใช้ระบบอัตโนมัติช่วยคัดแยกเหตุการณ์ในศูนย์ปฏิบัติการความปลอดภัย การทดลองเหล่านี้ทำให้ AI อยู่ทั้งสองฝั่งของกระบวนการรักษาความปลอดภัย คือช่วยค้นหาจุดอ่อนและช่วยฝ่ายป้องกันจัดลำดับความสำคัญของเหตุการณ์

มีรายงานบางส่วนกล่าวถึงระบบดิจิทัลของรัฐบาลมากกว่า 2,000 ระบบในบริบทของการขยายการทดสอบความปลอดภัย อย่างไรก็ตาม ข้อมูลที่มีอยู่รองรับทิศทางโดยรวมเรื่อง red team การทดสอบเจาะระบบ และการใช้ AI ช่วยงานความปลอดภัย แต่ยังไม่ได้ยืนยันว่าการทดสอบด้วย AI แบบต่อเนื่องกำลังดำเนินการอยู่กับระบบทั้ง 2,000 ระบบแล้ว

ความหมายต่อยุทธศาสตร์ AI ของสิงคโปร์

เมื่อมองภาพรวม โครงการเหล่านี้สนับสนุนเป้าหมายที่เชื่อมโยงกันสามด้าน

1. ยกระดับการให้บริการสาธารณะ ผู้ช่วยและเอเจนต์สามารถช่วยร่างเอกสาร วิเคราะห์ข้อมูล เขียนโค้ด และทำเวิร์กโฟลว์ประจำ เปิดเวลาให้เจ้าหน้าที่ไปจัดการงานซับซ้อนและงานที่ต้องพบปะประชาชนมากขึ้น
2. เสริมความสามารถด้านเทคโนโลยีภายในประเทศ แพลตฟอร์มร่วม เครื่องมือประเมิน ชั้นความปลอดภัย และการฝึกอบรม ช่วยให้สิงคโปร์เก็บองค์ความรู้และความสามารถในการปฏิบัติการไว้ภายใน แทนการพึ่งพาผู้ให้บริการโมเดลหรือผลิตภัณฑ์เชิงพาณิชย์รายเดียวทั้งหมด
3. คุ้มครองความเชื่อมั่นของประชาชนและระบบสำคัญของประเทศ ทะเบียน การกำหนดสิทธิ์ การตรวจสอบย้อนหลัง การทดสอบความปลอดภัย และการป้องกันภัยไซเบอร์ ล้วนสร้างกลไกกำกับดูแลเมื่อ AI เข้ามาเกี่ยวข้องกับงานและข้อมูลของรัฐบาลมากขึ้น

บทเรียนสำคัญคือ การขยาย AI อย่างปลอดภัยเป็นปัญหาด้านสถาปัตยกรรมไม่น้อยไปกว่าปัญหาด้านตัวโมเดล สิงคโปร์กำลังพยายามทำให้ AI เข้าถึงได้อย่างกว้างขวาง พร้อมทำให้เจ้าของ สิทธิ์ การทดสอบ และกิจกรรมการใช้งานยังคงมองเห็นได้สำหรับหน่วยงานที่รับผิดชอบบริการสาธารณะ