Secara sederhana, alur Trusted Contact terdiri dari tiga tahap:
Pelaporan tentang peluncuran fitur ini menggambarkan peringatannya sebagai ajakan check-in. Itu tidak berarti kontak tepercaya otomatis menjadi petugas krisis, tenaga klinis, atau layanan darurat .
Trusted Contact masuk dalam upaya OpenAI memperkuat respons ChatGPT dalam percakapan sensitif terkait kesehatan mental. OpenAI mengatakan sistem perlindungannya mencakup pelatihan model agar tidak memberikan instruksi menyakiti diri, beralih ke bahasa yang lebih suportif dan empatik, serta mengarahkan orang ke sumber bantuan krisis bila sesuai .
OpenAI juga mengatakan telah bekerja dengan lebih dari 170 ahli kesehatan mental untuk membantu ChatGPT lebih andal mengenali tanda-tanda distress, merespons dengan hati-hati, dan mengarahkan orang ke dukungan dunia nyata . Dalam konteks itu, Trusted Contact mendorong dukungan keluar dari layar chat: ada jalur bagi orang pilihan pengguna untuk mengetahui bahwa pengguna mungkin perlu diperiksa keadaannya
.
Hal paling penting adalah persetujuan. Trusted Contact bersifat opt-in, dan pengguna harus memilih kontaknya sendiri terlebih dahulu . Artinya, manfaat fitur ini sangat bergantung pada siapa yang dipilih: idealnya seseorang yang dipercaya, cukup dekat, dan mampu merespons dengan bijak bila menerima peringatan check-in.
Fitur ini juga sebaiknya dipahami sebagai pengingat keselamatan, bukan pengganti bantuan darurat. Materi keselamatan OpenAI sendiri menempatkan peran ChatGPT sebagai sistem yang mengenali distress, merespons secara hati-hati, dan mengarahkan orang ke dukungan dunia nyata atau sumber krisis . Jika seseorang berada dalam bahaya segera, langkah yang tepat tetap mencari bantuan darurat atau layanan krisis setempat, bukan menunggu notifikasi dari chatbot.
Informasi yang tersedia menjelaskan mekanisme dasarnya: pengguna dewasa mengaktifkan fitur, ChatGPT mendeteksi kemungkinan sinyal menyakiti diri atau risiko bunuh diri, lalu peringatan otomatis dapat meminta kontak tepercaya mengecek keadaan pengguna . Namun, rujukan yang tersedia di sini belum memberikan data independen tentang apakah Trusted Contact benar-benar mengurangi bahaya dalam penggunaan dunia nyata.
Pelaporan yang sama juga menyebut kontak menerima peringatan otomatis untuk melakukan check-in, tetapi belum merinci isi lengkap peringatan tersebut atau apakah potongan percakapan ikut dibagikan . Pengguna yang mempertimbangkan fitur ini sebaiknya membaca alur produk dan penjelasan privasi terbaru di ChatGPT sebelum mengaktifkannya.
Trusted Contact adalah fitur keselamatan opsional dari OpenAI untuk pengguna dewasa ChatGPT yang ingin menyiapkan orang tepercaya sebelum terjadi percakapan berisiko. Jika diaktifkan, ChatGPT dapat mendorong pengguna menghubungi orang tersebut dan dapat mengirim peringatan agar kontak pilihan pengguna mengecek keadaan mereka. Dengan begitu, OpenAI menambahkan lapisan dukungan manusia di atas perlindungan krisis yang sudah ada di ChatGPT .
Comments
0 comments