Trusted Contact của OpenAI: cách ChatGPT gửi cảnh báo tự hại theo lựa chọn của người dùng

Cảnh báo hoạt động theo luồng nào?

Theo mô tả hiện có, quy trình gồm ba bước chính:

1. Người dùng phải bật trước. Trusted Contact không tự động áp dụng cho tất cả mọi người; người dùng ChatGPT trưởng thành cần chủ động chọn một người đáng tin cậy trong tài khoản .
2. ChatGPT phát hiện dấu hiệu rủi ro. Tính năng này gắn với các cuộc trò chuyện có thể cho thấy ý nghĩ tự hại hoặc nguy cơ tự tử .
3. Một lời nhắc kiểm tra có thể được gửi đi. ChatGPT có thể khuyến khích người dùng liên hệ với người đã chọn, đồng thời gửi cảnh báo tự động để người đó hỏi thăm .

Các mô tả công khai hiện xem đây là lời nhắc kiểm tra, không phải việc biến người liên hệ thành nhân viên ứng phó khủng hoảng, bác sĩ lâm sàng hay dịch vụ cấp cứu .

Vì sao OpenAI thêm lớp hỗ trợ này?

Trusted Contact nằm trong hướng đi rộng hơn của OpenAI nhằm cải thiện cách ChatGPT phản hồi trong các cuộc trò chuyện nhạy cảm về sức khỏe tinh thần. OpenAI cho biết các biện pháp an toàn của họ bao gồm huấn luyện mô hình không cung cấp hướng dẫn tự hại, chuyển sang ngôn ngữ hỗ trợ và đồng cảm, đồng thời hướng người dùng tới tài nguyên khủng hoảng khi phù hợp .

OpenAI cũng nói họ đã làm việc với hơn 170 chuyên gia sức khỏe tinh thần để giúp ChatGPT nhận diện dấu hiệu đau khổ đáng tin cậy hơn, phản hồi cẩn trọng hơn và hướng người dùng tới hỗ trợ ngoài đời thực . Trong bối cảnh đó, Trusted Contact đi thêm một bước: không chỉ là chatbot trả lời thế nào, mà còn là liệu một người do người dùng chọn trước có thể được nhắc để kịp thời hỏi thăm hay không .

Người dùng nên hiểu gì trước khi bật?

Điểm quan trọng nhất là sự đồng ý và lựa chọn trước. Trusted Contact là tính năng opt-in: người dùng phải tự bật và tự chọn người liên hệ . Vì vậy, lựa chọn này nên là một người đủ tin cậy, phù hợp và có khả năng phản hồi nếu nhận được lời nhắc kiểm tra.

Tính năng này cũng không nên được hiểu là thay thế hỗ trợ khẩn cấp. OpenAI mô tả vai trò của ChatGPT là nhận diện dấu hiệu đau khổ, phản hồi cẩn trọng và hướng người dùng tới hỗ trợ ngoài đời thực hoặc tài nguyên khủng hoảng khi cần . Nếu ai đó đang trong nguy hiểm tức thời, lựa chọn phù hợp vẫn là tìm hỗ trợ khẩn cấp tại nơi sinh sống — chẳng hạn dịch vụ cấp cứu, đường dây khủng hoảng hoặc một người ở gần — thay vì trông chờ vào thông báo từ chatbot.

Những điều vẫn chưa rõ

Thông tin triển khai hiện giải thích cơ chế cơ bản: người dùng trưởng thành bật tính năng, ChatGPT phát hiện tín hiệu có thể liên quan tới tự hại hoặc tự tử, và một cảnh báo tự động có thể đề nghị người liên hệ kiểm tra tình hình . Tuy nhiên, các nguồn được dẫn ở đây chưa đưa ra dữ liệu độc lập cho thấy Trusted Contact làm giảm rủi ro trong thực tế đến mức nào.

Ngoài ra, mô tả hiện có nói người liên hệ sẽ nhận cảnh báo tự động để hỏi thăm, nhưng chưa nêu đầy đủ nội dung cảnh báo hay liệu đoạn hội thoại nào có được chia sẻ hay không . Người dùng cân nhắc bật tính năng này nên xem kỹ luồng thiết lập và thông tin quyền riêng tư mới nhất trong sản phẩm ChatGPT.

Chốt lại

Trusted Contact là tính năng an toàn mới của OpenAI dành cho người dùng ChatGPT trưởng thành muốn chọn trước một người đáng tin cậy trong các tình huống có thể liên quan tới tự hại hoặc nguy cơ tự tử. Khi được bật, ChatGPT có thể khuyến khích người dùng liên hệ với người đó và gửi cảnh báo để họ kiểm tra tình hình, qua đó thêm một lớp hỗ trợ từ con người bên cạnh các biện pháp ứng phó khủng hoảng hiện có của OpenAI .