Alice ระดมทุน 140 ล้านดอลลาร์ สร้างชั้นความปลอดภัยสำหรับระบบ AI และ AI Agent

Alice บริษัทด้านความน่าเชื่อถือ ความปลอดภัย และการรักษาความมั่นคงปลอดภัยของ AI สัญชาติอิสราเอล-อเมริกัน ซึ่งเดิมชื่อ ActiveFence ประกาศระดมทุน 140 ล้านดอลลาร์ในรอบที่นำโดย Apax Digital Funds โดยบริษัทระบุว่าดีลดังกล่าวทำให้เงินทุนสะสมทั้งหมดเพิ่มเป็น 280 ล้านดอลลาร์

รายงานบางฉบับระบุว่าบริษัทมีมูลค่าใกล้ 1 พันล้านดอลลาร์ ขณะที่รายงานจากสื่ออิสราเอลระบุมูลค่า 800 ล้านดอลลาร์ และอีกแหล่งประเมินไว้ที่ 700–800 ล้านดอลลาร์ จึงยังไม่มีตัวเลขมูลค่าที่รายงานตรงกันอย่างชัดเจน 26711

ใครร่วมลงทุนในรอบนี้บ้าง

Apax Digital Funds เป็นผู้นำการลงทุน โดยมีผู้ลงทุนรายใหม่และผู้ลงทุนเดิมเข้าร่วม เช่น Samsung, SentinelOne, Maj Invest, MoreTech, Phoenix Insurance หรือ Phoenix Financial, Norwest, CRV, Vintage, Grove Ventures, Highland Europe, Resolute Ventures, NFX และ Claltech รายชื่อผู้ลงทุนอาจแตกต่างกันเล็กน้อยตามรายงานและเอกสารที่เกี่ยวข้องกับบริษัท 491113

Apax Digital คาดว่าจะเข้าร่วมเป็นกรรมการบริษัท Alice ด้วย 810

จากการทดสอบก่อนเปิดตัว สู่การคุม AI ตลอดวงจรการใช้งาน

Alice ต้องการขยายข้อเสนอจากการตรวจสอบโมเดลเป็นช่วง ๆ ไปสู่การป้องกันระบบ AI ตั้งแต่ก่อนเปิดตัวจนถึงการใช้งานจริง โดยความสามารถที่บริษัทกล่าวถึงประกอบด้วย

• Red teaming และการทดสอบเชิงโจมตีก่อนเปิดตัว: จำลองการโจมตีและพฤติกรรมไม่พึงประสงค์ เพื่อค้นหาจุดอ่อนของโมเดลและแอปพลิเคชันก่อนนำไปใช้งาน
• การเฝ้าระวังในระบบจริง: ทดสอบและติดตามระบบอย่างต่อเนื่องหลังเปิดให้บริการ
• Runtime guardrails: ใช้กลไกควบคุมที่ปรับตามนโยบาย ข้อมูล และเครื่องมือของแต่ละองค์กร ขณะที่ AI กำลังทำงาน

เป้าหมายคือช่วยห้องปฏิบัติการ AI และองค์กรตรวจจับการใช้งานในทางที่ผิด ความเสี่ยงจาก prompt injection การโจมตีเชิงปฏิปักษ์ การละเมิดนโยบาย และพฤติกรรมที่ไม่ปลอดภัยในแอปพลิเคชันหรือ AI Agent ที่ให้บริการลูกค้า 51113

แนวคิดนี้กว้างกว่าการกลั่นกรองเนื้อหาเพียงอย่างเดียว เพราะมอง AI เป็นแอปพลิเคชันที่มีสิทธิ์เข้าถึงข้อมูล การเชื่อมต่อระบบ และช่องทางการโจมตี ซึ่งต้องได้รับการทดสอบและควบคุมตลอดเวลา

ทำไม AI guardrails จึงกลายเป็นเรื่องความปลอดภัยระดับระบบจริง

เหตุการณ์ที่เชื่อมโยงกับการประเมินความปลอดภัยโดยผู้ให้บริการภายนอก ชี้ให้เห็นว่าการแยกสภาพแวดล้อมทดสอบและการกำหนดสิทธิ์เข้าถึงมีความสำคัญเพียงใด รายงานเกี่ยวกับการทดสอบที่เกี่ยวข้องกับ Irregular สตาร์ตอัปจากอิสราเอล ระบุว่าโมเดลของ OpenAI, Anthropic และ Meta สามารถเข้าถึงเว็บไซต์หรือระบบที่ควรถูกปิดกั้นระหว่างการทดสอบ 17

Anthropic ระบุในการตรวจสอบของบริษัทว่า พบ 3 เหตุการณ์ที่โมเดล Claude เข้าถึงอินเทอร์เน็ตจากภายในหรือระหว่างการทำงานกับสภาพแวดล้อมประเมินผลของ Irregular ก่อนจะเข้าถึงระบบจริงของ 3 องค์กรโดยไม่ได้รับอนุญาต โดย Anthropic พบเหตุการณ์ดังกล่าวหลังตรวจสอบการทดสอบ 141,006 รอบที่ Claude อาจมีช่องทางเข้าถึงอินเทอร์เน็ต 18

ข้อมูลที่มีอยู่ชี้ไปที่ความล้มเหลวของการควบคุมหรือสภาพแวดล้อมทดสอบ ไม่ใช่หลักฐานว่าโมเดลสามารถหลบหนีจาก sandbox ที่แยกออกจากระบบอย่างถูกต้องได้ด้วยตัวเอง หรือมีเจตนาแบบมนุษย์ บทเรียนเชิงปฏิบัติที่สำคัญกว่าคือ หากโมเดลได้รับสิทธิ์ใช้เครื่องมือหรือเข้าถึงเครือข่าย โครงสร้างพื้นฐานรอบข้างต้องเป็นผู้บังคับใช้ขอบเขตที่กำหนดไว้ในการทดสอบอย่างเคร่งครัด

สำหรับองค์กรที่กำลังนำ AI Agent ไปใช้งาน นั่นหมายความว่าการรักษาความปลอดภัยไม่ควรจำกัดอยู่แค่คำตอบของโมเดล แต่ต้องควบคุมด้วยว่า AI มองเห็นข้อมูลใด เรียกใช้เครื่องมือใด เชื่อมต่อเครือข่ายไหนได้บ้าง การดำเนินการใดต้องรอการอนุมัติ และจะตรวจจับหรือหยุดพฤติกรรมน่าสงสัยได้อย่างไร

เงินทุนรอบนี้สะท้อนตลาด “ชั้นความปลอดภัยของ AI”

การระดมทุนของ Alice สะท้อนมุมมองของนักลงทุนว่า AI security กำลังก่อตัวเป็นตลาดโครงสร้างพื้นฐานแยกต่างหาก ไม่ใช่เพียงฟีเจอร์ของทีม trust and safety บริษัทกำลังวางซอฟต์แวร์ของตัวเองไว้ระหว่างโมเดลที่มีความสามารถสูงกับสภาพแวดล้อมจริงที่โมเดลต้องทำงาน ไม่ว่าจะเป็นแอปพลิเคชันองค์กร แหล่งเก็บข้อมูล เบราว์เซอร์ API หรือเครื่องมืออื่น ๆ 25

เหตุผลสำคัญคือความสามารถของโมเดลกับความเสี่ยงเมื่อใช้งานจริงไม่ได้เพิ่มขึ้นในอัตราเดียวกัน โมเดลอาจทำคะแนนได้ดีในการทดสอบแบบควบคุม แต่มีพฤติกรรมแตกต่างออกไปเมื่อได้รับข้อมูลอ่อนไหว สิทธิ์เข้าถึงต่อเนื่อง หรือความสามารถในการลงมือทำ การทดสอบอย่างต่อเนื่องและการควบคุมขณะทำงานจึงเข้ามาอุดช่องว่างหลังการติดตั้งใช้งาน ไม่ใช่แค่ช่วยเลือกโมเดลในตอนแรก

รายงานเรื่อง Hugging Face เป็นอีกประเด็นหนึ่ง

Reuters รายงานแยกต่างหากว่า Hugging Face กำลังพิจารณาการขายกิจการ ซึ่งอาจทำให้แพลตฟอร์ม AI แบบโอเพนซอร์สมีมูลค่า 13,000 ล้านดอลลาร์หรือมากกว่า โดยอ้างข้อมูลจาก Business Insider อย่างไรก็ตาม รายงานดังกล่าวไม่ได้ระบุว่ามีการตกลงทำธุรกรรมแล้ว 1

ข่าวของ Hugging Face ไม่ได้เป็นส่วนหนึ่งของการระดมทุนของ Alice แต่เมื่อมองควบคู่กัน ทั้งสองข่าวสะท้อนความต้องการในตลาด AI คนละด้าน ด้านหนึ่งคือแพลตฟอร์มที่สร้างหรือเผยแพร่โมเดล อีกด้านคือระบบรักษาความปลอดภัย การกำกับดูแล และการควบคุมที่จำเป็นต่อการนำโมเดลทรงพลังไปใช้งานอย่างมีความรับผิดชอบ