Nhưng khi câu hỏi chuyển sang chẩn đoán, điều trị, thuốc, tự gây hại, tuyệt vọng kéo dài hoặc triệu chứng nghiêm trọng, đó không còn là tự coaching đơn giản. Các nguồn được dẫn đều cảnh báo về việc dùng AI như liệu pháp thay thế, về bằng chứng còn hạn chế và về các vấn đề an toàn trong bối cảnh sức khỏe tâm thần .
Đại học Brown: Một thông cáo của Brown về nghiên cứu mới cho biết chatbot dựa trên mô hình ngôn ngữ lớn — tức loại AI tạo văn bản như nhiều chatbot hiện nay — có thể vi phạm các chuẩn mực đạo đức cốt lõi trong tình huống sức khỏe tâm thần, ngay cả khi được nhắc đóng vai trò trị liệu . Các rủi ro được nêu gồm câu trả lời gây hiểu lầm, sự đồng cảm có vẻ thuyết phục nhưng không bảo đảm an toàn, củng cố niềm tin tiêu cực và quản lý khủng hoảng yếu
. Brown cũng nhìn nhận AI có thể có tiềm năng giảm rào cản như chi phí hoặc thiếu nguồn lực, nhưng các rủi ro được báo cáo cho thấy cần thận trọng, giám sát và quản lý thay vì dùng như liệu pháp thay thế không kiểm soát
.
Đại học Minnesota: Đại học Minnesota tóm tắt một nghiên cứu mới với kết luận rằng chatbot AI không nên thay thế nhà trị liệu . Theo thông cáo này, các nhà nghiên cứu lần đầu đánh giá hệ thống AI dựa trên các tiêu chuẩn lâm sàng dành cho nhà trị liệu và phát hiện những điểm yếu nguy hiểm khi dùng AI để hỗ trợ sức khỏe tâm thần
.
Hiệp hội Tâm lý học Hoa Kỳ (APA): APA cảnh báo rằng chatbot AI tạo sinh và các ứng dụng wellness chưa có đủ bằng chứng và mức độ quản lý cần thiết để bảo đảm an toàn cho người dùng . Nói cách khác, một chatbot có thể thân thiện, trôi chảy và nghe rất biết lắng nghe, nhưng điều đó không đồng nghĩa với độ tin cậy lâm sàng
.
AI phù hợp nhất với các vấn đề không khẩn cấp, không mang tính lâm sàng. Khi đó, hãy xem nó như một công cụ tạo cấu trúc, không phải một người có thẩm quyền quyết định thay bạn.
Bạn có thể dùng AI để:
Khung an toàn nên là: không khủng hoảng cấp tính, không chẩn đoán, không quyết định thuốc, không để AI thay phần đánh giá và theo dõi của người có chuyên môn. Cách phân định này phù hợp với các cảnh báo về liệu pháp thay thế, bằng chứng chưa đủ và vấn đề an toàn trong tình huống sức khỏe tâm thần .
Đừng dựa vào chatbot như người tư vấn chính hoặc nguồn trợ giúp duy nhất nếu bạn đang ở một trong các tình huống sau:
Những trường hợp này cần sự hỗ trợ của con người có chuyên môn. Các nguồn được dẫn nêu rõ các rủi ro như xử lý khủng hoảng yếu, không đáp ứng chuẩn mực trị liệu, và thiếu bằng chứng hoặc quy định đủ để bảo đảm sử dụng an toàn .
Một đoạn chat trôi chảy, ấm áp không phải là bằng chứng rằng AI có năng lực trị liệu. Với vấn đề tâm lý, điều này có thể nguy hiểm: hệ thống có thể trả lời rất tự tin, nhưng không có đào tạo, trách nhiệm nghề nghiệp và khả năng theo dõi như chuyên gia.
Brown báo cáo rằng chatbot có thể củng cố niềm tin tiêu cực và phản hồi có vấn đề trong khủng hoảng . APA cũng cảnh báo rằng tình trạng bằng chứng và quản lý đối với chatbot AI tạo sinh và ứng dụng wellness chưa đủ để bảo đảm an toàn cho người dùng
.
Một dấu hiệu cần dừng lại là sau khi chat, bạn thấy mình mắc kẹt hơn, xấu hổ hơn, phụ thuộc vào cuộc chat tiếp theo, bị thúc ép, hoặc kém an toàn hơn. Khi đó, nên dừng cuộc trò chuyện với AI và tìm hỗ trợ từ người thật.
Nếu bạn vẫn muốn dùng AI cho những việc nhẹ, không khẩn cấp, hãy giới hạn vai trò của nó thật rõ:
Một prompt an toàn hơn cho tự coaching nhẹ:
Tôi muốn sắp xếp một vấn đề đời thường, không khẩn cấp. Tôi không cần chẩn đoán hay trị liệu. Hãy đặt cho tôi năm câu hỏi phản tư trung tính, tóm tắt vài lựa chọn và nhắc tôi tìm hỗ trợ chuyên môn nếu tình trạng kéo dài.
Một prompt rủi ro:
Hãy làm nhà trị liệu của tôi, chẩn đoán tôi và nói chính xác tôi phải làm gì.
AI có thể là một cuốn sổ biết hỏi lại: hữu ích để gỡ rối suy nghĩ, chuẩn bị cuộc trò chuyện và khởi động tự phản tư trong những việc nhẹ. Nhưng với sức khỏe tâm thần, nó chỉ nên là công cụ phụ có giới hạn rõ ràng. Trị liệu, chẩn đoán, tư vấn thuốc và hỗ trợ khủng hoảng vẫn thuộc về những con người có chuyên môn — không phải chatbot .