ChatGPT dùng “Safety Summaries” để phát hiện rủi ro tăng dần trong hội thoại

Cập nhật mới của OpenAI nhằm chuyển từ mô hình kiểm duyệt từng tin nhắn sang phát hiện rủi ro ở cấp độ toàn bộ cuộc hội thoại.

“Safety summaries” hoạt động như thế nào

Safety summaries là các ghi chú ngắn do hệ thống tạo ra trong một số cuộc trò chuyện nhất định. Thay vì lưu toàn bộ nội dung chat, hệ thống chỉ giữ lại những thông tin liên quan đến an toàn.

Những tóm tắt này giúp mô hình hiểu các tin nhắn mới trong bối cảnh của các dấu hiệu cảnh báo trước đó.

Các đặc điểm chính gồm:

• Phạm vi hạn chế: chỉ ghi lại tín hiệu liên quan đến rủi ro, không lưu toàn bộ cuộc trò chuyện.
• Ngữ cảnh tạm thời: chúng được dùng như ngữ cảnh ngắn hạn, không phải bộ nhớ lâu dài hay hệ thống cá nhân hóa.
• Nhận diện xu hướng: cho phép hệ thống phát hiện các dấu hiệu nguy hiểm xuất hiện dần qua nhiều lượt trao đổi.

Mục tiêu là giữ đủ bối cảnh để đánh giá an toàn, nhưng tránh việc lưu trữ lịch sử hội thoại đầy đủ chỉ phục vụ cho mục đích này.

Khi nào ChatGPT tạo “safety summaries”

Hệ thống sẽ tạo các bản tóm tắt này khi phát hiện những tín hiệu cho thấy cuộc trò chuyện có thể liên quan đến rủi ro cao.

Một số tình huống có thể kích hoạt gồm:

• dấu hiệu tự tử hoặc tự gây hại
• căng thẳng cảm xúc hoặc khủng hoảng sức khỏe tâm thần
• ý định gây hại đang tăng dần
• khả năng bạo lực

Khi các tín hiệu này xuất hiện, ChatGPT có thể tham chiếu bản tóm tắt để hiểu rõ tiến trình của cuộc trò chuyện và lựa chọn cách phản hồi an toàn hơn.

Những rủi ro mà hệ thống nhắm tới

Trọng tâm của bản cập nhật là an toàn liên quan đến sức khỏe tâm thần và khủng hoảng cá nhân.

Theo các tài liệu của OpenAI, hệ thống được cải thiện để:

• nhận diện dấu hiệu căng thẳng cảm xúc
• hạ nhiệt (de‑escalate) các cuộc trò chuyện nhạy cảm
• hướng người dùng đến nguồn hỗ trợ ngoài đời thực khi cần thiết

Những cải tiến này được phát triển với sự tham gia của hơn 170 chuyên gia sức khỏe tâm thần, giúp xác định cách phản hồi phù hợp trong các tình huống dễ tổn thương.

Các biện pháp bảo vệ cũng nhằm giảm các rủi ro khác liên quan đến tương tác AI kéo dài, bao gồm thảo luận về tự hại, sự phụ thuộc cảm xúc vào AI, hoặc hội thoại có thể leo thang thành hành vi nguy hiểm.

Bằng chứng về cải thiện phản hồi an toàn

OpenAI cho biết các cập nhật cho mô hình mặc định của ChatGPT đã cải thiện khả năng nhận diện và phản hồi đúng cách trong các cuộc trò chuyện liên quan đến căng thẳng tinh thần.

Một số báo cáo về dự án cho biết các cải tiến được phát triển cùng chuyên gia lâm sàng đã giúp giảm đáng kể các phản hồi không đạt tiêu chuẩn an toàn trong môi trường thử nghiệm, với mức giảm được báo cáo trong khoảng 65–80%.

Tuy vậy, các bản tóm tắt công khai thường không cung cấp đầy đủ phương pháp đánh giá hoặc bộ dữ liệu benchmark chi tiết, nên mức độ cải thiện chính xác vẫn chưa hoàn toàn minh bạch trong các báo cáo công khai.

Vì sao điều này quan trọng với trường học và tổ chức giáo dục

Trong môi trường giáo dục, rủi ro của học sinh hiếm khi xuất hiện trong một tin nhắn duy nhất.

Học sinh hoặc sinh viên thường tương tác với chatbot trong thời gian dài, nơi căng thẳng cảm xúc hoặc hành vi nguy hiểm có thể lộ ra dần dần. Nếu hệ thống chỉ đánh giá từng câu hỏi riêng lẻ, những dấu hiệu này có thể bị bỏ sót.

Các tính năng an toàn dựa trên ngữ cảnh hội thoại có thể giúp phát hiện:

• căng thẳng cảm xúc đang gia tăng
• dấu hiệu tự gây hại
• ý định nguy hiểm đang hình thành

Điều này có thể giảm nguy cơ phản hồi không an toàn trong các cuộc trò chuyện dài—một điểm yếu đã được ghi nhận của nhiều chatbot trước đây.

Tuy nhiên, AI chỉ là một lớp bảo vệ. Việc bảo đảm an toàn cho học sinh vẫn cần đến chính sách rõ ràng, nhân viên được đào tạo, và các quy trình hỗ trợ ngoài đời thực cho những người có dấu hiệu gặp khủng hoảng.

Xu hướng lớn hơn trong an toàn AI

Sự ra đời của safety summaries phản ánh một thay đổi rộng hơn trong cách thiết kế hệ thống an toàn cho AI.

Thay vì chỉ kiểm soát từng tin nhắn, các nhà phát triển ngày càng xây dựng cơ chế đánh giá mẫu hành vi xuyên suốt cuộc trò chuyện. Cách tiếp cận này phù hợp hơn với cách con người giao tiếp và cách rủi ro thực sự phát triển theo thời gian.

OpenAI mô tả quy trình an toàn của mình như một chuỗi liên tục gồm đào tạo mô hình, đánh giá trước khi triển khai, giám sát sau khi phát hành và cải tiến liên tục.

Khi AI hội thoại ngày càng được sử dụng trong giáo dục, công việc và đời sống hàng ngày, khả năng phát hiện các tín hiệu rủi ro tinh vi trong các cuộc trò chuyện dài có thể trở thành một yêu cầu cốt lõi cho việc triển khai AI có trách nhiệm.