신뢰 연락처는 ChatGPT가 민감한 정신건강 관련 대화에 더 안전하게 대응하도록 하려는 OpenAI의 broader safety 노력 안에 있다. OpenAI는 자해 방법을 안내하지 않도록 모델을 훈련하고, 위험 신호가 있을 때는 지지적이고 공감적인 언어로 전환하며, 필요할 경우 위기 지원 자원으로 안내하는 안전장치를 마련해 왔다고 설명한다 .
OpenAI는 또 ChatGPT가 고통의 신호를 더 잘 알아차리고, 신중하게 응답하며, 현실의 지원으로 이어지도록 170명 이상의 정신건강 전문가와 협력했다고 밝혔다 . 이런 맥락에서 신뢰 연락처는 챗봇의 답변 문구를 개선하는 데 그치지 않고, 이용자가 직접 고른 사람이 상황을 알아차리고 확인할 수 있는 통로를 만든다는 점이 다르다
.
가장 중요한 조건은 동의와 선택이다. 신뢰 연락처는 선택형 기능이며, 이용자가 먼저 연락처를 지정해야 작동한다 . 따라서 알림을 받았을 때 실제로 확인해 줄 수 있고, 그런 역할에 적절한 사람인지 신중히 고르는 것이 중요하다.
또 하나는 기대치를 분명히 하는 것이다. 이 기능은 안전을 위한 알림 장치이지, 응급 도움을 대체하는 장치가 아니다. OpenAI의 안전 자료도 ChatGPT의 역할을 고통의 신호를 인식하고 조심스럽게 응답하며 현실의 지원과 위기 자원으로 안내하는 것으로 설명한다 . 누군가 즉각적인 위험에 처해 있다면 챗봇 알림에 기대기보다 거주 지역의 긴급 신고 체계나 위기 상담 자원을 이용하는 것이 우선이다.
현재 공개된 설명은 기본 구조를 알려준다. 성인 이용자가 기능을 켜고, ChatGPT 대화에서 자해 또는 자살 위험 신호가 감지될 수 있으며, 지정된 연락처에 확인 요청 알림이 갈 수 있다는 내용이다 . 그러나 이 기능이 실제 사용 환경에서 피해를 줄이는지에 대한 독립적인 결과 데이터는 공개된 자료만으로 확인되지 않는다.
또한 연락처가 받는 자동 알림의 정확한 문구나, 대화 내용 일부가 공유되는지 여부도 여기서 인용한 보도만으로는 구체적으로 확인되지 않는다 . 기능을 켜려는 이용자는 현재 ChatGPT 제품 화면에서 제공되는 설정 절차와 개인정보 관련 설명을 직접 확인하는 것이 좋다.
ChatGPT 신뢰 연락처는 성인 이용자가 자해 또는 자살 위험 대화 상황에 대비해 미리 한 사람을 지정해 둘 수 있는 선택형 안전 기능이다. 켜 두면 ChatGPT가 이용자에게 그 사람에게 연락하라고 권할 수 있고, 지정 연락처에는 확인을 부탁하는 자동 알림을 보낼 수 있다. 핵심은 AI의 응답만으로 끝내지 않고, 이용자가 선택한 실제 사람의 확인과 지지를 연결하는 데 있다 .
Comments
0 comments