Giskard Guards กับภารกิจปกป้อง AI Agents ขององค์กร

Giskard Guards: ชั้นความปลอดภัยแบบ Runtime สำหรับ AI Agents

Giskard ออกแบบ Guards ให้ทำงานเป็นตัวกลางระหว่าง AI agent กับระบบต่าง ๆ ที่มันเข้าถึง

แทนที่จะตรวจแค่ prompt หรือ output ระบบจะวิเคราะห์บริบททั้งหมดของการทำงาน เช่น

• prompt ที่ส่งเข้าไป
• ขั้นตอน reasoning ระหว่างทาง
• การเรียกใช้เครื่องมือหรือ API
• ผลลัพธ์ที่ถูกสร้างขึ้น

เป้าหมายคือ ตรวจจับพฤติกรรมที่เสี่ยงก่อนที่คำสั่งจะไปถึงระบบจริงขององค์กร

แนวคิดหลักของแพลตฟอร์มมีหลายส่วนสำคัญ

Guardrails ที่เข้าใจบริบท (Context‑aware)
ระบบไม่ได้ตรวจแค่คำสำคัญ แต่ประเมินเจตนาและบริบทของคำสั่ง เช่น ความสัมพันธ์กับงานของ agent เครื่องมือที่เชื่อมต่อ และข้อมูลที่ถูกเข้าถึง

การตรวจจับหลายชั้น (Multi‑detector)
แพลตฟอร์มใช้ detector หลายแบบพร้อมกัน เช่น

• การตรวจ jailbreak
• การตรวจ prompt injection
• การตรวจข้อมูลส่วนบุคคล (PII)
• การตรวจการละเมิดนโยบายองค์กร

เมื่อพบความเสี่ยง ระบบสามารถตัดสินใจ allow, monitor หรือ block การกระทำของ agent ได้ทันที

ตรวจสอบ execution chain ทั้งหมด
การโจมตี AI agents มักไม่ได้เกิดในขั้นตอนเดียว แต่อาจเกิดจากข้อมูลที่ถูกดึงมา หรือคำสั่งระหว่าง workflow

ดังนั้น Giskard จึงตรวจสอบ ทั้งสายการทำงานของ agent ตั้งแต่ต้นจนจบ ไม่ใช่แค่ input กับ output เท่านั้น

Policy‑as‑Code: เปลี่ยนนโยบายองค์กรให้กลายเป็นกฎของระบบ

แนวคิดสำคัญอีกอย่างของแพลตฟอร์มคือ policy‑as‑code

องค์กรจำนวนมากมีนโยบายด้านความปลอดภัย ความเป็นส่วนตัว หรือกฎการกำกับดูแลอยู่แล้ว แต่ปัญหาคือกฎเหล่านั้นมักอยู่ในเอกสาร ไม่ได้ถูกบังคับใช้โดยระบบ AI

แนวทาง policy‑as‑code คือการ แปลงกฎเหล่านี้ให้กลายเป็นโค้ดที่ระบบสามารถบังคับใช้ได้จริง

งานวิจัยด้าน governance ของ AI agents ชี้ว่าการแปลงนโยบายภาษาธรรมชาติให้เป็น guardrails แบบ runtime เป็นแนวทางสำคัญสำหรับระบบอัตโนมัติในสภาพแวดล้อมที่มีข้อกำกับสูง

ตัวอย่างกฎที่องค์กรสามารถกำหนดได้ เช่น

• ห้ามเปิดเผยข้อมูลทางการแพทย์หรือการเงิน
• ต้องมีมนุษย์ตรวจสอบก่อนการตัดสินใจสำคัญ
• จำกัดเครื่องมือที่ AI สามารถเรียกใช้
• บันทึกกิจกรรมเพื่อการ audit และ compliance

เพราะกฎเหล่านี้ถูกจัดการแบบ version และโปรแกรมได้ จึงสามารถปรับตามการเปลี่ยนแปลงของระบบ AI ที่พัฒนาเร็วมาก

สอดคล้องกับกฎหมาย EU AI Act

อีกเหตุผลหนึ่งที่องค์กรต้องการระบบ governance สำหรับ AI คือข้อกำกับด้านกฎหมาย

EU AI Act ของสหภาพยุโรปใช้แนวทางกำกับแบบตามระดับความเสี่ยง โดยระบบ AI ที่กระทบต่อสุขภาพ ความปลอดภัย หรือสิทธิพื้นฐานของประชาชนจะถูกจัดเป็น High‑Risk AI Systems และต้องปฏิบัติตามข้อกำหนดด้านการจัดการความเสี่ยง ความโปร่งใส การบันทึกข้อมูล และการกำกับดูแลโดยมนุษย์

แพลตฟอร์มอย่าง Giskard Guards จึงพยายามช่วยองค์กรให้สอดคล้องกับข้อกำหนดเหล่านี้ เช่น

• การตรวจสอบพฤติกรรมของระบบ
• การเก็บ log สำหรับ audit
• การบังคับใช้นโยบายระหว่าง runtime
• การเปิดทางให้มี human oversight

กลไกเหล่านี้สามารถสนับสนุนข้อกำหนดด้านความแข็งแกร่ง ความปลอดภัย และการกำกับโดยมนุษย์ในระบบ AI ที่มีความเสี่ยงสูง

ทำไมอุตสาหกรรมที่มีการกำกับเข้มจึงสนใจมาก

ความต้องการระบบควบคุม AI agents สูงมากในอุตสาหกรรมที่มีข้อกำกับเข้ม เช่น

ธนาคารและประกันภัย
AI agents อาจถูกใช้วิเคราะห์สินเชื่อ ตรวจจับการทุจริต ประมวลผลเคลม หรือให้บริการลูกค้า ซึ่งทั้งหมดเกี่ยวข้องกับข้อมูลการเงินและกฎระเบียบจำนวนมาก

สาธารณสุข
AI อาจช่วยสรุปเวชระเบียน ดึงข้อมูลผู้ป่วย หรือช่วยจัดลำดับความเร่งด่วนของเคส ซึ่งต้องปกป้องข้อมูลสุขภาพและยังต้องมีมนุษย์ควบคุมการตัดสินใจสำคัญ

ดังนั้นองค์กรเหล่านี้มักต้องการระบบควบคุมที่ทำงาน ระดับโครงสร้างพื้นฐาน ไม่ใช่แค่ prompt guideline

อีกมุมหนึ่งของยุโรป: Sovereign AI

Giskard ยังวางตำแหน่ง Guards เป็นส่วนหนึ่งของแนวคิด “Sovereign AI” ของยุโรป

แพลตฟอร์มถูกออกแบบให้สามารถติดตั้ง on‑premise หรือในโครงสร้างพื้นฐานที่องค์กรควบคุมเอง เพื่อให้ข้อมูลสำคัญ telemetry และระบบกำกับดูแลอยู่ภายในองค์กร

แนวทางนี้ช่วยลดการพึ่งพา moderation API จากผู้ให้บริการภายนอก และสอดคล้องกับนโยบายด้านการกำกับข้อมูลของยุโรป เช่น GDPR และ EU AI Act

การเปลี่ยนมุมมองของ AI Security

การมาของ AI agents ทำให้แนวคิดด้านความปลอดภัยของ AI ต้องเปลี่ยนไป

การกรองข้อความเพียงอย่างเดียวไม่เพียงพอสำหรับระบบที่สามารถวางแผนงาน เข้าถึงข้อมูล และสั่งการเครื่องมือได้

แนวทางของ Giskard สะท้อนการเปลี่ยนแปลงสำคัญในวงการนี้ นั่นคือ

การปกป้อง “พฤติกรรมของ AI” ตลอดทั้ง workflow แทนที่จะตรวจแค่เนื้อหาที่ AI สร้างขึ้น

แม้ยังต้องรอดูว่าแพลตฟอร์มแบบนี้จะรับมือกับระบบ AI ขนาดใหญ่ในระดับองค์กรได้ดีแค่ไหน แต่แนวคิดเรื่อง runtime governance และ context‑aware guardrails กำลังถูกมองว่าเป็นชั้นความปลอดภัยที่จำเป็นสำหรับยุคของ AI agents ในระบบธุรกิจ