Giskard ออกแบบ Guards ให้ทำงานเป็นตัวกลางระหว่าง AI agent กับระบบต่าง ๆ ที่มันเข้าถึง
แทนที่จะตรวจแค่ prompt หรือ output ระบบจะวิเคราะห์บริบททั้งหมดของการทำงาน เช่น
แนวคิดหลักของแพลตฟอร์มมีหลายส่วนสำคัญ
Guardrails ที่เข้าใจบริบท (Context‑aware)
ระบบไม่ได้ตรวจแค่คำสำคัญ แต่ประเมินเจตนาและบริบทของคำสั่ง เช่น ความสัมพันธ์กับงานของ agent เครื่องมือที่เชื่อมต่อ และข้อมูลที่ถูกเข้าถึง
การตรวจจับหลายชั้น (Multi‑detector)
แพลตฟอร์มใช้ detector หลายแบบพร้อมกัน เช่น
ตรวจสอบ execution chain ทั้งหมด
การโจมตี AI agents มักไม่ได้เกิดในขั้นตอนเดียว แต่อาจเกิดจากข้อมูลที่ถูกดึงมา หรือคำสั่งระหว่าง workflow
ดังนั้น Giskard จึงตรวจสอบ ทั้งสายการทำงานของ agent ตั้งแต่ต้นจนจบ ไม่ใช่แค่ input กับ output เท่านั้น
แนวคิดสำคัญอีกอย่างของแพลตฟอร์มคือ policy‑as‑code
องค์กรจำนวนมากมีนโยบายด้านความปลอดภัย ความเป็นส่วนตัว หรือกฎการกำกับดูแลอยู่แล้ว แต่ปัญหาคือกฎเหล่านั้นมักอยู่ในเอกสาร ไม่ได้ถูกบังคับใช้โดยระบบ AI
แนวทาง policy‑as‑code คือการ แปลงกฎเหล่านี้ให้กลายเป็นโค้ดที่ระบบสามารถบังคับใช้ได้จริง
งานวิจัยด้าน governance ของ AI agents ชี้ว่าการแปลงนโยบายภาษาธรรมชาติให้เป็น guardrails แบบ runtime เป็นแนวทางสำคัญสำหรับระบบอัตโนมัติในสภาพแวดล้อมที่มีข้อกำกับสูง
ตัวอย่างกฎที่องค์กรสามารถกำหนดได้ เช่น
เพราะกฎเหล่านี้ถูกจัดการแบบ version และโปรแกรมได้ จึงสามารถปรับตามการเปลี่ยนแปลงของระบบ AI ที่พัฒนาเร็วมาก
อีกเหตุผลหนึ่งที่องค์กรต้องการระบบ governance สำหรับ AI คือข้อกำกับด้านกฎหมาย
EU AI Act ของสหภาพยุโรปใช้แนวทางกำกับแบบตามระดับความเสี่ยง โดยระบบ AI ที่กระทบต่อสุขภาพ ความปลอดภัย หรือสิทธิพื้นฐานของประชาชนจะถูกจัดเป็น High‑Risk AI Systems และต้องปฏิบัติตามข้อกำหนดด้านการจัดการความเสี่ยง ความโปร่งใส การบันทึกข้อมูล และการกำกับดูแลโดยมนุษย์
แพลตฟอร์มอย่าง Giskard Guards จึงพยายามช่วยองค์กรให้สอดคล้องกับข้อกำหนดเหล่านี้ เช่น
กลไกเหล่านี้สามารถสนับสนุนข้อกำหนดด้านความแข็งแกร่ง ความปลอดภัย และการกำกับโดยมนุษย์ในระบบ AI ที่มีความเสี่ยงสูง
ความต้องการระบบควบคุม AI agents สูงมากในอุตสาหกรรมที่มีข้อกำกับเข้ม เช่น
ธนาคารและประกันภัย
AI agents อาจถูกใช้วิเคราะห์สินเชื่อ ตรวจจับการทุจริต ประมวลผลเคลม หรือให้บริการลูกค้า ซึ่งทั้งหมดเกี่ยวข้องกับข้อมูลการเงินและกฎระเบียบจำนวนมาก
สาธารณสุข
AI อาจช่วยสรุปเวชระเบียน ดึงข้อมูลผู้ป่วย หรือช่วยจัดลำดับความเร่งด่วนของเคส ซึ่งต้องปกป้องข้อมูลสุขภาพและยังต้องมีมนุษย์ควบคุมการตัดสินใจสำคัญ
Giskard ยังวางตำแหน่ง Guards เป็นส่วนหนึ่งของแนวคิด “Sovereign AI” ของยุโรป
แพลตฟอร์มถูกออกแบบให้สามารถติดตั้ง on‑premise หรือในโครงสร้างพื้นฐานที่องค์กรควบคุมเอง เพื่อให้ข้อมูลสำคัญ telemetry และระบบกำกับดูแลอยู่ภายในองค์กร
แนวทางนี้ช่วยลดการพึ่งพา moderation API จากผู้ให้บริการภายนอก และสอดคล้องกับนโยบายด้านการกำกับข้อมูลของยุโรป เช่น GDPR และ EU AI Act
การมาของ AI agents ทำให้แนวคิดด้านความปลอดภัยของ AI ต้องเปลี่ยนไป
การกรองข้อความเพียงอย่างเดียวไม่เพียงพอสำหรับระบบที่สามารถวางแผนงาน เข้าถึงข้อมูล และสั่งการเครื่องมือได้
แนวทางของ Giskard สะท้อนการเปลี่ยนแปลงสำคัญในวงการนี้ นั่นคือ
การปกป้อง “พฤติกรรมของ AI” ตลอดทั้ง workflow แทนที่จะตรวจแค่เนื้อหาที่ AI สร้างขึ้น
แม้ยังต้องรอดูว่าแพลตฟอร์มแบบนี้จะรับมือกับระบบ AI ขนาดใหญ่ในระดับองค์กรได้ดีแค่ไหน แต่แนวคิดเรื่อง runtime governance และ context‑aware guardrails กำลังถูกมองว่าเป็นชั้นความปลอดภัยที่จำเป็นสำหรับยุคของ AI agents ในระบบธุรกิจ
Comments
0 comments