Kontext ระดมทุน 4 ล้านดอลลาร์ คุมสิ่งที่ AI เอเจนต์ทำได้ขณะทำงาน

AI เอเจนต์ในองค์กรไม่ได้มีหน้าที่แค่ตอบคำถามอีกต่อไป บางตัวเขียนโค้ด เปิดไฟล์ หรือใช้ข้อมูลรับรองของบริษัทเพื่อทำงานต่อได้เอง ปัญหาจึงไม่ใช่เพียง “เอเจนต์นี้เข้าใช้ระบบได้หรือไม่” แต่รวมถึง “สิ่งที่กำลังจะทำเกี่ยวข้องกับงานที่ได้รับมอบหมายหรือไม่” 14

Kontext สตาร์ตอัปจากเมืองมิวนิก ประเทศเยอรมนี ระดมทุนได้ 4 ล้านดอลลาร์สหรัฐ ในรอบที่นำโดย 42CAP โดยมี a16z CSX และ High-Tech Gründerfonds (HTGF) ร่วมลงทุน บริษัทระบุว่าจะใช้เงินขยายทีมวิศวกรรม พัฒนาความสามารถในการบังคับใช้นโยบายขณะเอเจนต์ทำงาน และสนับสนุนการนำระบบไปใช้ในองค์กร แต่รายงานที่มีไม่ได้ระบุจำนวนพนักงานที่จะรับเพิ่ม การจัดสรรงบ หรือกำหนดการติดตั้งระบบ 145

มีสิทธิ์ใช้เครื่องมือ ไม่ได้แปลว่าทำอะไรก็ได้

แนวทางของ Kontext คือวางซอฟต์แวร์ไว้ระหว่าง AI เอเจนต์กับเครื่องมือและระบบที่มันเรียกใช้ เพื่อตรวจคำขอเป็นรายครั้งก่อนดำเนินการ ตัวอย่างเช่น เอเจนต์ที่ได้รับมอบหมายให้สรุปเอกสารอาจมีสิทธิ์ใช้เครื่องมือจัดการไฟล์ แต่สิทธิ์นั้นไม่ควรครอบคลุมถึงการลบไฟล์อื่นที่ไม่เกี่ยวกับงาน การยืนยันตัวตนบอกได้ว่าใครกำลังทำงาน ส่วนการอนุญาตการกระทำต้องดูด้วยว่าจะทำอะไร กับข้อมูลใด และเพื่อภารกิจอะไร 14

บริษัทอธิบายว่าระบบจะเชื่อมข้อมูลตัวตน บริบทของงาน และนโยบายความปลอดภัยเข้าด้วยกันก่อนตัดสินใจ คู่มือที่ Kontext เผยแพร่ระบุแนวทางให้รวบรวมบริบทจากการเรียกใช้เครื่องมือหลายครั้ง แล้วเลือกอนุญาต ปฏิเสธ จำกัดขอบเขต หรือส่งให้มนุษย์พิจารณา โดยพิจารณาปัจจัยอย่างผู้ใช้ เอเจนต์ เครื่องมือ การกระทำ ทรัพยากรเป้าหมาย และความเสี่ยง ทั้งหมดนี้เป็นคำอธิบายแนวทางของบริษัท ไม่ใช่หลักฐานอิสระว่าระบบดักตรวจทุกการกระทำได้ครบถ้วน 41723

เริ่มจากดูพฤติกรรม ก่อนเปิดใช้การบล็อก

ตามรายงาน ทีมงานสามารถเริ่มด้วย โหมดสังเกตการณ์ เพื่อดูว่านโยบายที่กำหนดจะมีผลต่อการทำงานของเอเจนต์อย่างไร โดยยังไม่ขัดจังหวะงาน เมื่อเปิดใช้การบังคับใช้นโยบาย Kontext ระบุว่าการกระทำที่ไม่ได้รับอนุญาตจะถูกปฏิเสธก่อนดำเนินการ และมีบันทึกผลการตัดสินใจไว้ตรวจสอบย้อนหลัง อย่างไรก็ดี ข้อมูลที่เผยแพร่ยังไม่ยืนยันว่าระบบครอบคลุมทุกช่องทางที่เอเจนต์อาจใช้ทำงาน หรือรับประกันการเก็บบันทึกไว้นานเพียงใด 5

Kontext ก่อตั้งร่วมกันโดย Jens Ernstberger และ Michel Osswald รายงานระบุว่าประสบการณ์ของทั้งคู่โดยรวมครอบคลุมระบบคอมพิวเตอร์ที่ปลอดภัย การประยุกต์ใช้วิทยาการเข้ารหัสลับ และระบบ AI โดยไม่ได้แจกแจงว่าแต่ละด้านเป็นความเชี่ยวชาญของใคร 4 Ernstberger ระบุบนเว็บไซต์ส่วนตัวว่าเคยฝึกงานวิจัยที่ a16z crypto และเคยศึกษาระดับปริญญาเอกที่มหาวิทยาลัยเทคนิคมิวนิก ส่วนประวัติที่ Osswald ระบุในโปรไฟล์วิชาชีพมีงานที่ Retarus, Deloitte และโครงการด้านนวัตกรรมข้อมูลของมหาวิทยาลัยเดียวกัน รายละเอียดประวัติรายบุคคลเหล่านี้เป็นข้อมูลที่เจ้าตัวเผยแพร่เอง 1836

เงินทุนรอบนี้ช่วยให้ Kontext เดินหน้าพัฒนาระบบควบคุมการกระทำของ AI เอเจนต์ได้ต่อไป ส่วนคำถามสำคัญสำหรับลูกค้าองค์กรคือ ระบบจะตรวจและบังคับใช้นโยบายได้สม่ำเสมอเพียงใดเมื่อเอเจนต์เชื่อมต่อกับเครื่องมือและสภาพแวดล้อมที่แตกต่างกัน 15