Câu trả lờiĐã xuất bản14 nguồn
Sampura Research đặt con người vào trung tâm của bài toán giám sát AI
Sampura Research là tổ chức phi lợi nhuận về an toàn AI tại London, do cựu nghiên cứu viên Google DeepMind Rishub Jain và Josh Jacob thành lập; tổ chức công bố hoạt động ngày 25/8/2026 với khoản tài trợ ban đầu 11 tri... Sampura cho rằng con người vẫn có những thế mạnh riêng trong việc phát hiện lỗi bất thường, kiểm...
Đăng bởiBiên tập bằng GPT-5.6 LunaHình ảnh được tạo bằng GPT Image 1.5
Câu trả lời nghiên cứu
Bài học chính
- Sampura Research là tổ chức phi lợi nhuận về an toàn AI tại London, do cựu nghiên cứu viên Google DeepMind Rishub Jain và Josh Jacob thành lập; tổ chức công bố hoạt động ngày 25/8/2026 với khoản tài trợ ban đầu 11 tri...
- Sampura cho rằng con người vẫn có những thế mạnh riêng trong việc phát hiện lỗi bất thường, kiểm tra độc lập và đánh giá các giá trị mới — những điểm mà AI có thể bỏ sót.
- Mô hình “trọng tài” của tổ chức sẽ kết hợp con người, AI hoặc cả hai, chỉ chuyển những trường hợp không chắc chắn hoặc có rủi ro cao cho con người xử lý.
- Chương trình sáu tháng đầu tiên dự kiến xây dựng bảng xếp hạng công khai cùng hơn 20 bộ dữ liệu phụ, tập trung vào lừa dối, thiên lệch văn hóa và hành vi không an toàn của các tác nhân AI.
Prompt AI
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Sampura Research, the London based nonprofit launched on August 24, 2026 by former Google DeepMind researchers Rishub Jain, Joshua J. Article summary: Sampura Research is a London AI safety nonprofit founded by former Google DeepMind researchers Rishub Jain and Josh Jacob—not, based on its own announcement, by Alex Adams.. Topic tags: general web, ai safety, openai, llm, ai. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and
Sampura Research là một tổ chức phi lợi nhuận về an toàn AI đặt tại London, do hai cựu nghiên cứu viên Google DeepMind là Rishub Jain và Josh Jacob thành lập. Theo thông báo chính thức của tổ chức, Alex Adams không phải đồng sáng lập mà được ghi nhận là người góp ý cho thông báo. Sampura công bố hoạt động vào ngày 25/8/2026, với khoản tài trợ ban đầu trị giá 11 triệu USD từ Coefficient Giving — gồm 7 triệu USD cho năm đầu tiên và 4 triệu USD cam kết cho giai đoạn tiếp theo. 4
Sampura đang cố giải quyết vấn đề gì?
Trong ngành AI, một hướng tiếp cận phổ biến là “giám sát có khả năng mở rộng” (scalable oversight): dùng các mô hình ngôn ngữ lớn làm “giám khảo” để đánh giá câu trả lời hoặc hành vi của những mô hình AI khác. Cách này nhanh và rẻ hơn so với việc để con người kiểm tra mọi trường hợp.
Sampura không cho rằng AI không thể hỗ trợ giám sát. Lập luận của tổ chức hẹp hơn và thực tế hơn: không nên mặc định rằng AI có thể thay thế hoàn toàn con người trong vai trò giám sát. Theo Sampura, con người vẫn có thể đem lại ba lợi thế quan trọng:
- phát hiện những lỗi không đồng đều, khó dự đoán của AI — thường được mô tả là các thất bại “lởm chởm” (jagged failures);
- cung cấp một lớp kiểm tra độc lập, giảm nguy cơ mô hình bị giám sát và “giám khảo” AI cùng mắc lỗi hoặc thông đồng;
- tranh luận và đánh giá những giá trị mới, thay đổi theo thời gian mà dữ liệu cũ chưa thể phản ánh.
4
Vì vậy, hướng đi của Sampura là bổ trợ giữa người và AI, chứ không đơn giản là đưa con người trở lại kiểm tra thủ công mọi đầu ra.
“Trọng tài” lai người-AI hoạt động thế nào?
Trong cách dùng của Sampura, một “judge” — có thể dịch là “giám khảo” hoặc “trọng tài” — là một con người, một hệ thống AI hoặc một hệ thống kết hợp, có nhiệm vụ đánh giá xem hành vi của AI có đúng và phù hợp với mục tiêu an toàn hay không.
Tổ chức dự kiến nghiên cứu một số cơ chế:
- ước tính mức độ tự tin của giám khảo AI;
- chuyển những trường hợp thiếu chắc chắn cho con người xem xét;
- dùng bộ điều phối để phân chia nhiệm vụ hoặc các bước nhỏ của nhiệm vụ giữa người và AI;
- cung cấp công cụ AI chuyên biệt để giúp con người xử lý từng loại đánh giá.
Mục tiêu là phân bổ nguồn lực có trọng điểm: con người tập trung vào các ca khó, bất thường hoặc có hậu quả lớn, còn AI xử lý những phần có thể tự động hóa đáng tin cậy hơn. 4
Các bộ dữ liệu sẽ kiểm tra những rủi ro nào?
Trong sáu tháng đầu, Sampura cho biết họ sẽ ưu tiên xây dựng một bảng xếp hạng công khai, được cập nhật liên tục, với hơn 20 bộ dữ liệu phụ. Các chủ đề ban đầu gồm:
- phát hiện hành vi lừa dối;
- thiên lệch văn hóa;
- hành động không an toàn của các tác nhân AI;
- những tình huống mà mô hình được giám sát có thể tìm cách tối ưu để đánh lừa chính hệ thống đánh giá.
Điểm đáng chú ý là tổ chức không chỉ muốn kiểm tra các câu trả lời tĩnh. Sampura còn dự định đánh giá giám khảo trong bối cảnh mô hình bị giám sát có thể tối ưu hành vi của mình trong quá trình học tăng cường. Đây là phép thử quan trọng đối với nguy cơ “hack phần thưởng” (reward hacking) — khi AI tìm cách đạt điểm cao theo tiêu chí đánh giá mà không thực sự làm đúng mục tiêu an toàn. 4
Sampura cho biết sẽ công khai các bài nghiên cứu, mã nguồn, bộ dữ liệu và bảng xếp hạng. Tuy nhiên, việc công khai công cụ đánh giá không tự động bảo đảm rằng các hệ thống AI mạnh hơn sẽ được kiểm soát an toàn trong môi trường thực tế.
Không chỉ nghiên cứu kịch bản “AI nổi loạn”
Phạm vi được công bố của Sampura rộng hơn các kịch bản quen thuộc về một hệ thống AI mất kiểm soát. Tổ chức cũng muốn nghiên cứu:
- thiên lệch;
- tương tác không an toàn giữa AI và trẻ em;
- sự phụ thuộc vào các hệ thống AI đồng hành;
- cách tạo và đánh giá hướng dẫn, tiêu chí chấm điểm và các ca kiểm thử.
Việc nghiên cứu cả “đề bài” và tiêu chí đánh giá có thể giúp phát hiện sớm các lỗ hổng trong quy trình giám sát, thay vì chỉ xem xét câu trả lời cuối cùng. Dù vậy, đây vẫn là chương trình nghiên cứu được đề xuất, chưa phải bằng chứng cho thấy Sampura đã có khả năng “kiềm chế” các mô hình AI tiên tiến. 4
Bài kiểm tra lớn nhất sẽ là triển khai thực tế
Sampura muốn tìm câu trả lời cho một số câu hỏi then chốt:
- Những giám khảo tốt hơn có thực sự làm giảm hành vi hack phần thưởng hay không?
- Khi mô hình thay đổi, bao lâu thì cần đào tạo lại giám khảo?
- Mức độ tham gia nào của con người tạo ra sự cân bằng hợp lý giữa chi phí, tốc độ và chất lượng?
- Các hệ thống lai có thể được dùng trong huấn luyện, đánh giá và giám sát mô hình tại các phòng thí nghiệm AI hàng đầu hay không?
Một khả năng là tổ chức sẽ bắt đầu bằng việc thử nghiệm với các đơn vị đánh giá bên thứ ba, trước khi hướng tới việc ứng dụng trong quy trình phát triển mô hình. Đây là bước cần thiết, bởi một phương pháp hoạt động tốt trên bảng xếp hạng chưa chắc có hiệu quả khi mô hình được triển khai trong môi trường mở và có động cơ tối ưu hóa chống lại hệ thống giám sát.
Vì sao nhân lực đánh giá AI trở thành nút thắt?
Kế hoạch tuyển dụng của Sampura cũng cần được nhìn trong bối cảnh nhân lực an toàn AI đang khan hiếm. Một vị trí thực thi đánh giá tại METR từng được công bố với mức lương cơ bản 285.548–503.116 USD mỗi năm, đồng thời cho biết có thể trả cao hơn cho ứng viên đặc biệt xuất sắc. 9
Con số này cho thấy vấn đề không chỉ nằm ở nguồn vốn, mà còn ở việc tìm được những người có đủ kinh nghiệm để thiết kế, vận hành và kiểm tra các phép đánh giá phức tạp.
Sampura xác nhận đang tuyển các nhân sự kỹ thuật đầu tiên tại London. Tuy nhiên, các nguồn chính thức hiện có chưa đủ để khẳng định tổ chức sẽ tuyển “ít nhất sáu” người với mức lương 100.000–290.000 bảng Anh như một số thông tin thứ cấp đề cập. 4
Sampura liên quan thế nào đến lời kêu gọi làm chậm AI?
Hơn 1.100 người làm việc trong lĩnh vực AI tiên phong đã ký một bức thư công bố vào tháng 7/2026, kêu gọi xây dựng năng lực quốc tế để chủ động làm chậm quá trình phát triển nếu AI tiến nhanh hơn khả năng giám sát an toàn của con người. 1
Sampura có thể đóng góp vào một phần kỹ thuật của bài toán đó: tạo ra các phương pháp đánh giá đáng tin cậy, có thể kiểm toán và so sánh được. Nhưng một tổ chức nghiên cứu riêng lẻ không thể tự tạo ra:
- thẩm quyền pháp lý;
- sự phối hợp quốc tế;
- quyền tiếp cận các mô hình độc quyền;
- cơ chế thực thi hoặc buộc các phòng thí nghiệm tuân thủ.
Nói cách khác, công việc của Sampura có thể bổ trợ cho quản trị AI, nhưng không thể thay thế quản trị AI.
Cần thận trọng với câu chuyện DeepMind “mất người hàng loạt”
Jain rời Google DeepMind trong bối cảnh có nhiều thông tin về sự ra đi của các nhà nghiên cứu tại phòng thí nghiệm này. Tuy nhiên, tuyên bố rằng DeepMind mất “năm nhà nghiên cứu chủ chốt trong sáu ngày” dường như bắt nguồn từ các nguồn thứ cấp có độ tin cậy hạn chế và chưa nên được xem là một sự kiện đã được xác nhận độc lập. 5
Tương tự, các dữ liệu hiện có chưa đủ để kết luận rộng rằng các công ty AI “chưa thể kiểm soát những gì họ đã tạo ra”. Kết luận chắc chắn hơn là: năng lực giám sát các mô hình ngày càng mạnh vẫn chưa được chứng minh đầy đủ, nhân lực đánh giá có chuyên môn đang khan hiếm, và Sampura muốn khiến sự tham gia của con người trở nên có thể mở rộng và bền vững hơn.
Đó là một tham vọng đáng chú ý — nhưng vẫn cần được kiểm chứng bằng các kết quả triển khai thực tế, chứ không chỉ bằng những bảng xếp hạng hoặc tuyên bố ban đầu.
Studio Global AI
Tiếp tục nghiên cứu của bạn
Trang này bao gồm câu trả lời dựa trên nguồn mà bạn có thể tiếp tục bên trong Studio Global.
Người ta cũng hỏi
Câu trả lời ngắn gọn cho "Sampura Research đặt con người vào trung tâm của bài toán giám sát AI" là gì?
Sampura Research là tổ chức phi lợi nhuận về an toàn AI tại London, do cựu nghiên cứu viên Google DeepMind Rishub Jain và Josh Jacob thành lập; tổ chức công bố hoạt động ngày 25/8/2026 với khoản tài trợ ban đầu 11 tri...
Những điểm chính cần xác nhận đầu tiên là gì?
Sampura Research là tổ chức phi lợi nhuận về an toàn AI tại London, do cựu nghiên cứu viên Google DeepMind Rishub Jain và Josh Jacob thành lập; tổ chức công bố hoạt động ngày 25/8/2026 với khoản tài trợ ban đầu 11 tri... Sampura cho rằng con người vẫn có những thế mạnh riêng trong việc phát hiện lỗi bất thường, kiểm tra độc lập và đánh giá các giá trị mới — những điểm mà AI có thể bỏ sót.
Tôi nên làm gì tiếp theo trong thực tế?
Mô hình “trọng tài” của tổ chức sẽ kết hợp con người, AI hoặc cả hai, chỉ chuyển những trường hợp không chắc chắn hoặc có rủi ro cao cho con người xử lý.