AI Verify Foundation ต้องการสร้างกลุ่มบริษัทผู้ทดสอบที่น่าเชื่อถือ ซึ่งสามารถประเมินระบบ AI ได้ในหลายภาคส่วน ตั้งแต่สาธารณสุข การเงิน และการสรรหาบุคลากร ไปจนถึงบริการภาครัฐ พร้อมวางแนวทางพื้นฐานสำหรับการทดสอบทางเทคนิคที่มีคุณภาพ

บริษัทที่ผ่านการรับรองจะได้รับการยอมรับว่ามีความสามารถและความพร้อมในการทดสอบตามขอบเขตบริการที่ระบุไว้อย่างชัดเจน และอาจได้รับการเชื่อมโยงกับองค์กรที่กำลังมองหาผู้ทดสอบที่มีคุณสมบัติเหมาะสม แนวทางนี้มีเป้าหมายเพื่อเพิ่มความเชื่อมั่นให้แก่ผู้พัฒนาและผู้ใช้งาน AI รวมถึงผู้มีส่วนได้ส่วนเสียและผู้ใช้งานปลายทาง

อย่างไรก็ตาม การรับรองบริษัทผู้ทดสอบ ไม่ได้หมายความว่าระบบ AI ที่บริษัทนั้นตรวจสอบจะปลอดภัยอย่างสมบูรณ์หรือไม่มีความเสี่ยง ความเสี่ยงเฉพาะจากการนำระบบไปใช้งานจริง การเชื่อมต่อกับระบบอื่น หรือภัยรูปแบบใหม่อาจยังคงมีอยู่ องค์กรเจ้าของระบบยังคงต้องรับผิดชอบด้านธรรมาภิบาล การยอมรับความเสี่ยง และมาตรการลดความเสี่ยงเพิ่มเติมด้วยตนเอง

ผู้ทดสอบจะตรวจหาจุดอ่อนอะไรบ้าง

บริษัทที่ผ่านการรับรองอาจทำการทดสอบเชิงรุกแบบ Red Teaming ซึ่งเป็นการจำลองความพยายามโจมตีระบบ เพื่อค้นหาจุดอ่อนที่อาจมองไม่เห็นจากการทดสอบทั่วไป ตัวอย่างเช่น การใช้ Prompt Injection หรือ Jailbreak เพื่อพยายามหลบเลี่ยงข้อจำกัดด้านความปลอดภัยของโมเดล และชักนำให้ระบบสร้างผลลัพธ์ที่ละเมิดนโยบายหรือไม่ปลอดภัย

ขอบเขตการประเมินอาจครอบคลุมประเด็นต่อไปนี้

• ความปลอดภัยและความน่าเชื่อถือ: เช่น คำตอบผิดพลาด ข้อมูลที่แต่งขึ้นหรือไม่มีมูล และเนื้อหาที่เป็นอันตรายหรือไม่พึงประสงค์
• ความเป็นธรรม: เช่น อคติที่เกิดขึ้นในกระบวนการตัดสินใจ
• ความเป็นส่วนตัวและความมั่นคงปลอดภัย: เช่น การรั่วไหลของข้อมูลและช่องโหว่ของระบบ
• ความทนทานต่อ Prompt Injection และ Jailbreak: ประเด็นที่มีความสำคัญเป็นพิเศษสำหรับแอปพลิเคชัน Generative AI และ AI แบบเอเจนต์ที่สามารถดำเนินการต่าง ๆ แทนผู้ใช้ได้

บริษัทต้องมีคุณสมบัติอย่างไรจึงจะได้รับการรับรอง

AI TAP จะพิจารณาทั้งความสามารถด้านการทดสอบและศักยภาพในการดำเนินธุรกิจของผู้สมัคร โดยมีเกณฑ์หลัก ได้แก่

• ความเชี่ยวชาญทางเทคนิค: ต้องแสดงหลักฐานว่าสามารถให้บริการทดสอบเฉพาะด้านที่ประกาศไว้ได้จริง โดยอาจประเมินตามแนวทาง เช่น Starter Kit for Testing LLM-Based Applications for Safety and Reliability ของ IMDA
• ธรรมาภิบาลและสถานะทางธุรกิจ: ต้องมีประสบการณ์ที่เกี่ยวข้อง มีสถานะทางธุรกิจที่ดี และแสดงความมุ่งมั่นที่จะดำเนินกิจกรรมทางธุรกิจในสิงคโปร์
• ความมั่นคงทางการเงิน: ต้องมีฐานะทางการเงินเพียงพอที่จะดำเนินงานได้อย่างยั่งยืน
• ความพร้อมด้านปฏิบัติการ: ต้องมีทรัพยากรและขีดความสามารถในการให้บริการตามที่เสนอ
• การระบุขอบเขตบริการอย่างถูกต้อง: ขอบเขตบริการที่บริษัทแจ้งต้องสอดคล้องกับความสามารถที่พิสูจน์ได้

ความเสี่ยง 5 ด้านตาม Starter Kit ของ IMDA

Starter Kit เป็นแนวทางโดยสมัครใจสำหรับการทดสอบความปลอดภัยและความน่าเชื่อถือขั้นพื้นฐานของแอปพลิเคชันที่ใช้โมเดลภาษาขนาดใหญ่ หรือ LLM โดยระบุความเสี่ยงสำคัญไว้ 5 ด้าน ได้แก่

1. ภาพหลอนของ AI และความไม่ถูกต้องของข้อมูล
2. อคติในการตัดสินใจ
3. เนื้อหาที่ไม่พึงประสงค์
4. การรั่วไหลของข้อมูล
5. ช่องโหว่ต่อคำสั่งโจมตีหรือพรอมต์ที่เป็นอันตราย

มีค่าธรรมเนียมหรือไม่ และการรับรองมีอายุนานแค่ไหน

AI Verify Foundation ระบุว่าจะ ไม่มีค่าธรรมเนียมสมัครหรือค่าธรรมเนียมการรับรอง เพื่อไม่ให้ต้นทุนเป็นอุปสรรคต่อผู้ให้บริการ และเพื่อช่วยให้ตลาดบริการทดสอบและประเมินความมั่นใจของ AI เติบโตได้

การรับรองจะมีอายุ 12 เดือน หลังจากนั้นบริษัทจะต้องต่ออายุและแสดงให้เห็นว่ายังคงมีความสามารถตามเกณฑ์ เนื่องจากมาตรฐานและรูปแบบภัยคุกคามของ AI อาจเปลี่ยนแปลงอยู่เสมอ

บริษัทที่มีรายงานว่าแสดงความสนใจในระยะแรก ได้แก่ Advai, AIDX, Ernst & Young, Knovel Engineering, PwC, Resaro และ Vulcan

AI TAP อาจเปลี่ยนตลาดการทดสอบ AI อย่างไร

แนวคิดของโครงการคือการสร้างตลาดผู้ทดสอบภายนอกที่มีมาตรฐานและน่าเชื่อถือมากขึ้น โดยกำหนดความคาดหวังร่วมกันเกี่ยวกับความสามารถของผู้ทดสอบ สนับสนุนการประเมินที่มีหลักฐานและมีเอกสารรองรับ และทำให้การทดสอบสามารถปรับให้เหมาะกับกรณีใช้งานและขอบเขตความเสี่ยงของแต่ละองค์กรได้

หลักฐานที่มีอยู่ไม่ได้ระบุคำให้สัมภาษณ์เฉพาะเจาะจงจากตัวแทนอุตสาหกรรมเกี่ยวกับการปรับแต่งการทดสอบ ธรรมาภิบาล หรือความเชื่อมั่นที่เพิ่มขึ้น อย่างไรก็ตาม การออกแบบของ AI TAP สนับสนุนผลลัพธ์เหล่านี้ในทางปฏิบัติ ด้วยการช่วยให้ผู้ซื้อค้นหาผู้ทดสอบที่มีความสามารถ กำหนดขอบเขตการทดสอบให้ชัดเจน และเพิ่มการรับรองจากการประเมินโดยหน่วยงานอิสระ

AI Verify Foundation ต้องการสร้างกลุ่มบริษัทผู้ทดสอบที่น่าเชื่อถือ ซึ่งสามารถประเมินระบบ AI ได้ในหลายภาคส่วน ตั้งแต่สาธารณสุข การเงิน และการสรรหาบุคลากร ไปจนถึงบริการภาครัฐ พร้อมวางแนวทางพื้นฐานสำหรับการทดสอบทางเทคนิคที่มีคุณภาพ

บริษัทที่ผ่านการรับรองจะได้รับการยอมรับว่ามีความสามารถและความพร้อมในการทดสอบตามขอบเขตบริการที่ระบุไว้อย่างชัดเจน และอาจได้รับการเชื่อมโยงกับองค์กรที่กำลังมองหาผู้ทดสอบที่มีคุณสมบัติเหมาะสม แนวทางนี้มีเป้าหมายเพื่อเพิ่มความเชื่อมั่นให้แก่ผู้พัฒนาและผู้ใช้งาน AI รวมถึงผู้มีส่วนได้ส่วนเสียและผู้ใช้งานปลายทาง

อย่างไรก็ตาม การรับรองบริษัทผู้ทดสอบ ไม่ได้หมายความว่าระบบ AI ที่บริษัทนั้นตรวจสอบจะปลอดภัยอย่างสมบูรณ์หรือไม่มีความเสี่ยง ความเสี่ยงเฉพาะจากการนำระบบไปใช้งานจริง การเชื่อมต่อกับระบบอื่น หรือภัยรูปแบบใหม่อาจยังคงมีอยู่ องค์กรเจ้าของระบบยังคงต้องรับผิดชอบด้านธรรมาภิบาล การยอมรับความเสี่ยง และมาตรการลดความเสี่ยงเพิ่มเติมด้วยตนเอง

ผู้ทดสอบจะตรวจหาจุดอ่อนอะไรบ้าง

บริษัทที่ผ่านการรับรองอาจทำการทดสอบเชิงรุกแบบ Red Teaming ซึ่งเป็นการจำลองความพยายามโจมตีระบบ เพื่อค้นหาจุดอ่อนที่อาจมองไม่เห็นจากการทดสอบทั่วไป ตัวอย่างเช่น การใช้ Prompt Injection หรือ Jailbreak เพื่อพยายามหลบเลี่ยงข้อจำกัดด้านความปลอดภัยของโมเดล และชักนำให้ระบบสร้างผลลัพธ์ที่ละเมิดนโยบายหรือไม่ปลอดภัย

ขอบเขตการประเมินอาจครอบคลุมประเด็นต่อไปนี้

• ความปลอดภัยและความน่าเชื่อถือ: เช่น คำตอบผิดพลาด ข้อมูลที่แต่งขึ้นหรือไม่มีมูล และเนื้อหาที่เป็นอันตรายหรือไม่พึงประสงค์
• ความเป็นธรรม: เช่น อคติที่เกิดขึ้นในกระบวนการตัดสินใจ
• ความเป็นส่วนตัวและความมั่นคงปลอดภัย: เช่น การรั่วไหลของข้อมูลและช่องโหว่ของระบบ
• ความทนทานต่อ Prompt Injection และ Jailbreak: ประเด็นที่มีความสำคัญเป็นพิเศษสำหรับแอปพลิเคชัน Generative AI และ AI แบบเอเจนต์ที่สามารถดำเนินการต่าง ๆ แทนผู้ใช้ได้

บริษัทต้องมีคุณสมบัติอย่างไรจึงจะได้รับการรับรอง

AI TAP จะพิจารณาทั้งความสามารถด้านการทดสอบและศักยภาพในการดำเนินธุรกิจของผู้สมัคร โดยมีเกณฑ์หลัก ได้แก่

• ความเชี่ยวชาญทางเทคนิค: ต้องแสดงหลักฐานว่าสามารถให้บริการทดสอบเฉพาะด้านที่ประกาศไว้ได้จริง โดยอาจประเมินตามแนวทาง เช่น Starter Kit for Testing LLM-Based Applications for Safety and Reliability ของ IMDA
• ธรรมาภิบาลและสถานะทางธุรกิจ: ต้องมีประสบการณ์ที่เกี่ยวข้อง มีสถานะทางธุรกิจที่ดี และแสดงความมุ่งมั่นที่จะดำเนินกิจกรรมทางธุรกิจในสิงคโปร์
• ความมั่นคงทางการเงิน: ต้องมีฐานะทางการเงินเพียงพอที่จะดำเนินงานได้อย่างยั่งยืน
• ความพร้อมด้านปฏิบัติการ: ต้องมีทรัพยากรและขีดความสามารถในการให้บริการตามที่เสนอ
• การระบุขอบเขตบริการอย่างถูกต้อง: ขอบเขตบริการที่บริษัทแจ้งต้องสอดคล้องกับความสามารถที่พิสูจน์ได้

ความเสี่ยง 5 ด้านตาม Starter Kit ของ IMDA

Starter Kit เป็นแนวทางโดยสมัครใจสำหรับการทดสอบความปลอดภัยและความน่าเชื่อถือขั้นพื้นฐานของแอปพลิเคชันที่ใช้โมเดลภาษาขนาดใหญ่ หรือ LLM โดยระบุความเสี่ยงสำคัญไว้ 5 ด้าน ได้แก่

1. ภาพหลอนของ AI และความไม่ถูกต้องของข้อมูล
2. อคติในการตัดสินใจ
3. เนื้อหาที่ไม่พึงประสงค์
4. การรั่วไหลของข้อมูล
5. ช่องโหว่ต่อคำสั่งโจมตีหรือพรอมต์ที่เป็นอันตราย

มีค่าธรรมเนียมหรือไม่ และการรับรองมีอายุนานแค่ไหน

AI Verify Foundation ระบุว่าจะ ไม่มีค่าธรรมเนียมสมัครหรือค่าธรรมเนียมการรับรอง เพื่อไม่ให้ต้นทุนเป็นอุปสรรคต่อผู้ให้บริการ และเพื่อช่วยให้ตลาดบริการทดสอบและประเมินความมั่นใจของ AI เติบโตได้

การรับรองจะมีอายุ 12 เดือน หลังจากนั้นบริษัทจะต้องต่ออายุและแสดงให้เห็นว่ายังคงมีความสามารถตามเกณฑ์ เนื่องจากมาตรฐานและรูปแบบภัยคุกคามของ AI อาจเปลี่ยนแปลงอยู่เสมอ

บริษัทที่มีรายงานว่าแสดงความสนใจในระยะแรก ได้แก่ Advai, AIDX, Ernst & Young, Knovel Engineering, PwC, Resaro และ Vulcan

AI TAP อาจเปลี่ยนตลาดการทดสอบ AI อย่างไร

แนวคิดของโครงการคือการสร้างตลาดผู้ทดสอบภายนอกที่มีมาตรฐานและน่าเชื่อถือมากขึ้น โดยกำหนดความคาดหวังร่วมกันเกี่ยวกับความสามารถของผู้ทดสอบ สนับสนุนการประเมินที่มีหลักฐานและมีเอกสารรองรับ และทำให้การทดสอบสามารถปรับให้เหมาะกับกรณีใช้งานและขอบเขตความเสี่ยงของแต่ละองค์กรได้

หลักฐานที่มีอยู่ไม่ได้ระบุคำให้สัมภาษณ์เฉพาะเจาะจงจากตัวแทนอุตสาหกรรมเกี่ยวกับการปรับแต่งการทดสอบ ธรรมาภิบาล หรือความเชื่อมั่นที่เพิ่มขึ้น อย่างไรก็ตาม การออกแบบของ AI TAP สนับสนุนผลลัพธ์เหล่านี้ในทางปฏิบัติ ด้วยการช่วยให้ผู้ซื้อค้นหาผู้ทดสอบที่มีความสามารถ กำหนดขอบเขตการทดสอบให้ชัดเจน และเพิ่มการรับรองจากการประเมินโดยหน่วยงานอิสระ