Kontext gọi vốn 4 triệu USD để kiểm soát hành động của AI agent

Một AI agent được phép đọc tài liệu để tóm tắt không vì thế mà nên được phép xóa những tệp không liên quan. Đó là ranh giới Kontext muốn giúp doanh nghiệp thiết lập: xác thực được agent là ai chưa đủ; còn phải xét agent sắp làm gì và để phục vụ nhiệm vụ nào. 14

Startup tại Munich, Đức, đã huy động 4 triệu USD trong vòng gọi vốn do 42CAP dẫn đầu, với sự tham gia của a16z CSX và High-Tech Gründerfonds (HTGF). Kontext dự kiến dùng vốn để mở rộng đội ngũ kỹ thuật, phát triển thêm khả năng áp dụng quy tắc bảo mật ngay khi AI agent đang hoạt động và hỗ trợ doanh nghiệp triển khai sản phẩm. Các nguồn tin hiện có không nêu chỉ tiêu tuyển dụng, cách phân bổ ngân sách hay mốc triển khai cụ thể. 145

Kiểm tra thao tác, không chỉ kiểm tra quyền đăng nhập

AI agent trong môi trường làm việc có thể viết mã, truy cập tệp và sử dụng thông tin đăng nhập của công ty. Khi đó, việc xác nhận danh tính hoặc cho phép dùng một công cụ không đồng nghĩa với việc mọi thao tác thông qua công cụ ấy đều phù hợp. Một yêu cầu xóa tệp cần được đánh giá khác với yêu cầu đọc tệp, dù cả hai đến từ cùng một agent đã được xác thực. 14

Kontext phát triển phần mềm đặt giữa AI agent và các công cụ, hệ thống mà agent sử dụng. Theo mô tả về cách tiếp cận của công ty, quyết định cho phép một thao tác phải kết hợp danh tính, nhiệm vụ được giao và chính sách bảo mật trước khi thao tác diễn ra. Tài liệu do Kontext công bố còn mô tả việc xét người dùng, agent, công cụ, hành động, tài nguyên đích, tham số và mức rủi ro; hệ thống có thể cho phép, từ chối, thu hẹp phạm vi hoặc chuyển quyết định cho con người. Đây là mô tả về mô hình dự kiến, chưa phải bằng chứng độc lập rằng mọi đường thực thi của agent đều được kiểm soát. 41723

Quan sát trước, chặn sau

Theo thông tin được công bố, khách hàng có thể bắt đầu bằng chế độ quan sát để xem chính sách dự kiến sẽ tác động ra sao mà chưa cản trở công việc. Khi bật chế độ thực thi, Kontext cho biết các thao tác không được phép sẽ bị từ chối trước khi chạy, còn quyết định được ghi lại để phục vụ kiểm tra. Tuy nhiên, thông tin hiện có chưa xác lập phạm vi bao phủ của cơ chế này đối với mọi cách agent gọi công cụ, cũng như thời hạn lưu giữ nhật ký kiểm tra. 5

Kontext do Jens Ernstberger và Michel Osswald đồng sáng lập. Các bài viết về công ty mô tả kinh nghiệm tổng hợp của hai người trải rộng từ điện toán an toàn, mật mã học ứng dụng đến hệ thống AI, nhưng không gán riêng từng lĩnh vực cho mỗi người. Trên trang cá nhân, Ernstberger cho biết ông nghiên cứu mật mã học và bảo mật máy tính, từng thực tập nghiên cứu tại a16z crypto và theo học chương trình tiến sĩ tại Đại học Kỹ thuật Munich. Hồ sơ nghề nghiệp do Osswald tự công bố liệt kê kinh nghiệm tại Retarus, Deloitte và một dự án đổi mới dữ liệu của Đại học Kỹ thuật Munich. 41836

Khoản vốn mới giúp Kontext tiếp tục phát triển mô hình kiểm soát ở cấp độ hành động. Hiệu quả của mô hình trên nhiều công cụ và môi trường doanh nghiệp khác nhau vẫn cần được chứng minh qua triển khai thực tế. 15