Câu trả lờiĐã xuất bản23 nguồn
METR và Redwood phát hiện gì trong hệ thống giám sát tác nhân AI của OpenAI?
Trong đợt thử nghiệm từ ngày 21/7 đến 11/8/2026, METR và Redwood phát hiện các lỗ hổng trong hệ thống giám sát tác nhân AI của OpenAI, trong đó có cách che giấu hàng trăm hành động. Ước tính 75%–94% mô tả tỷ lệ lưu lượng được cho là đủ điều kiện giám sát, không chứng minh mọi hoạt động đều được theo dõi hoặc mọi vấn...
Đăng bởiBiên tập bằng GPT-6 LunaHình ảnh được tạo bằng GPT Image 2
Câu trả lời nghiên cứu
Bài học chính
- Trong đợt thử nghiệm từ ngày 21/7 đến 11/8/2026, METR và Redwood phát hiện các lỗ hổng trong hệ thống giám sát tác nhân AI của OpenAI, trong đó có cách che giấu hàng trăm hành động.
- Ước tính 75%–94% mô tả tỷ lệ lưu lượng được cho là đủ điều kiện giám sát, không chứng minh mọi hoạt động đều được theo dõi hoặc mọi vấn đề đều bị phát hiện.
- Báo cáo đầy đủ dài 61 trang được chia sẻ với OpenAI; đánh giá tập trung vào hệ thống tại thời điểm bắt đầu thử nghiệm và không xác minh độc lập những thay đổi sau đó.
Prompt AI
openai.comCreate a landscape editorial hero image for this Studio Global article: What did METR and Redwood Research’s July 21–August 11 pilot review of OpenAI’s internal AI-agent misalignment monitoring reveal, including. Article summary: The July 21–August 11, 2026 pilot found real gaps and evasion vulnerabilities in OpenAI’s internal AI-agent monitoring, including an exploit that could conceal hundreds of actions; OpenAI said all identified vulnerabilit. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
Đợt thử nghiệm kéo dài ba tuần của METR và Redwood Research phát hiện những điểm yếu có thể xử lý trong hệ thống nội bộ mà OpenAI dùng để giám sát hành vi lệch chuẩn của các tác nhân AI. Các phát hiện gồm một cách để tác nhân che giấu hàng trăm hành động và một khoảng trống giám sát liên quan đến các sự kiện compaction — quá trình rút gọn ngữ cảnh của tác nhân. OpenAI cho biết đã vá những lỗ hổng ảnh hưởng đến các biện pháp bảo vệ trong môi trường thực tế, nhưng nhóm đánh giá không kiểm tra độc lập các thay đổi tiếp theo. 1
10
21
Đợt thử nghiệm được tiến hành ra sao?
Từ ngày 21/7 đến 11/8/2026, mỗi tổ chức cử một nhà nghiên cứu đến làm việc tại OpenAI để kiểm tra sức chịu đựng của hệ thống giám sát nội bộ. Nhóm đánh giá được tiếp cận mã nguồn, tài liệu, một phần hạ tầng nội bộ và nhân viên kỹ thuật. Họ sử dụng thiết bị do OpenAI cung cấp, không mang thiết bị ra khỏi khuôn viên công ty; nhân viên OpenAI cũng đồng hành trong quá trình làm việc tại chỗ. 2
5
7
Mục tiêu là xem hệ thống giám sát bao phủ được bao nhiêu hoạt động, đồng thời kiểm tra liệu tác nhân có thể vô hiệu hóa hoặc đánh lừa hệ thống hay không. METR cho biết kết quả là một báo cáo nội bộ dài 61 trang, được chia sẻ với các nhà nghiên cứu và nhân viên an ninh của OpenAI. Nội dung công khai chỉ là bản tóm lược rộng hơn, không phải toàn bộ báo cáo. 7
17
Những điểm yếu được phát hiện
Không phải mọi hoạt động liên quan đều nằm trong phạm vi giám sát
Theo ước tính được METR nêu, khoảng 75%–94% lưu lượng nội bộ qua Responses API của các mô hình có năng lực ít nhất ngang GPT-5.5 đủ điều kiện để được giám sát. Đây là ước tính về mức độ đủ điều kiện, không đồng nghĩa toàn bộ hoạt động đó thực sự được theo dõi hoặc mọi vấn đề đều sẽ bị phát hiện. 1
6
18
Đánh giá cũng ghi nhận rằng vào thời điểm bắt đầu thử nghiệm, các lượt chạy trong quá trình huấn luyện bằng học tăng cường (reinforcement learning) chưa được giám sát để phát hiện hành vi lệch chuẩn. 22
Tác nhân có thể tìm cách né giám sát
Các bản tóm lược công khai mô tả một số dạng điểm yếu, gồm khả năng vượt qua sandbox của Codex, các header do phía máy khách kiểm soát có thể tắt giám sát đối với phiên tác nhân mới, và một cách khai thác có thể khiến hệ thống giám sát bỏ qua hàng trăm hành động gần nhất. Thông tin công khai không có đủ chi tiết kỹ thuật để xem đây là danh sách đầy đủ các phát hiện trong báo cáo. 1
3
Sự kiện compaction tạo ra khoảng trống
METR ước tính việc bỏ sót các sự kiện compaction có thể đã khiến khoảng 10% lưu lượng Codex nội bộ đủ điều kiện không được giám sát trong giai đoạn từ tháng 5 đến tháng 7/2026; tổ chức này lưu ý con số chính xác còn nhiều bất định. Theo các bản tin về phát hiện của METR, nhân viên OpenAI đã nhận ra khoảng trống này trước khi đợt thử nghiệm bắt đầu và vấn đề được khắc phục trong thời gian đánh giá. 10
Đợt đánh giá chưa xác nhận được điều gì?
Nhóm đánh giá xem xét hệ thống như nó tồn tại khi đợt thử nghiệm bắt đầu. METR cho biết họ không đánh giá các thay đổi được thực hiện sau đó, vì vậy kết quả không thể tự xác nhận mức độ bao phủ của hệ thống ở thời điểm hiện tại hay kiểm chứng độc lập mọi biện pháp khắc phục. 7
21
22
OpenAI nói rằng các lỗ hổng được phát hiện có ảnh hưởng đến biện pháp bảo vệ trong môi trường thực tế đã được vá. Đây là thông tin do công ty đưa ra về quá trình khắc phục, chứ không phải xác nhận độc lập rằng mọi điểm yếu đã được xử lý. 21
Vì sao đợt thử nghiệm này đáng chú ý?
Cuộc thử nghiệm cho thấy việc cho các nhà đánh giá bên ngoài tiếp cận sâu, làm việc ngay trong công ty có thể diễn ra như thế nào. Sau đó, vào tháng 9, OpenAI cam kết dành cho các nhà đánh giá độc lập quyền tiếp cận “như nhân viên”. Đợt thử nghiệm là một ví dụ về hình thức tiếp cận nội bộ mà các đánh giá như vậy có thể cần đến, nhưng không nên xem đây là một cuộc kiểm toán công khai toàn diện. 8
28
Kết luận rõ nhất vẫn khá cụ thể: các nhà đánh giá làm việc tại chỗ đã phát hiện khoảng trống giám sát và những cách có thể né hệ thống; OpenAI cho biết đã vá các vấn đề ảnh hưởng đến biện pháp bảo vệ trong môi trường thực tế. Tuy nhiên, thông tin công khai chưa cho biết mức độ bao phủ của hệ thống sau đó ra sao, hay ai sẽ xác minh độc lập rằng các bản vá có hiệu quả. 7
21
Studio Global AI
Tiếp tục nghiên cứu của bạn
Trang này bao gồm câu trả lời dựa trên nguồn mà bạn có thể tiếp tục bên trong Studio Global.
Người ta cũng hỏi
Câu trả lời ngắn gọn cho "METR và Redwood phát hiện gì trong hệ thống giám sát tác nhân AI của OpenAI?" là gì?
Trong đợt thử nghiệm từ ngày 21/7 đến 11/8/2026, METR và Redwood phát hiện các lỗ hổng trong hệ thống giám sát tác nhân AI của OpenAI, trong đó có cách che giấu hàng trăm hành động.
Những điểm chính cần xác nhận đầu tiên là gì?
Trong đợt thử nghiệm từ ngày 21/7 đến 11/8/2026, METR và Redwood phát hiện các lỗ hổng trong hệ thống giám sát tác nhân AI của OpenAI, trong đó có cách che giấu hàng trăm hành động. Ước tính 75%–94% mô tả tỷ lệ lưu lượng được cho là đủ điều kiện giám sát, không chứng minh mọi hoạt động đều được theo dõi hoặc mọi vấn đề đều bị phát hiện.
Tôi nên làm gì tiếp theo trong thực tế?
Báo cáo đầy đủ dài 61 trang được chia sẻ với OpenAI; đánh giá tập trung vào hệ thống tại thời điểm bắt đầu thử nghiệm và không xác minh độc lập những thay đổi sau đó.