OpenAI Trusted Contact : comment fonctionne l’alerte de ChatGPT en cas de risque suicidaire

Le déroulé de l’alerte

Le fonctionnement décrit repose sur trois étapes :

1. Activation volontaire. L’utilisateur adulte choisit d’activer l’option et désigne une personne de confiance, au lieu d’être inscrit automatiquement .
2. Détection d’un signal à risque. Le mécanisme concerne les échanges dans lesquels ChatGPT repère des signes possibles d’automutilation ou de risque suicidaire .
3. Demande de prise de nouvelles. ChatGPT peut inciter l’utilisateur à contacter la personne choisie et envoyer à celle-ci une alerte automatique lui demandant de prendre des nouvelles .

Les informations publiques disponibles décrivent donc une invitation à vérifier que la personne va bien. Elles ne disent pas que le contact désigné devient un intervenant de crise, un professionnel de santé ou un service d’urgence .

Pourquoi OpenAI ajoute cette couche humaine

Trusted Contact s’inscrit dans un effort plus large d’OpenAI pour améliorer les réponses de ChatGPT dans les conversations sensibles liées à la santé mentale. L’entreprise explique que ses garde-fous entraînent les modèles à ne pas fournir d’instructions d’automutilation, à adopter un langage plus empathique et à orienter les personnes vers des ressources de crise lorsque c’est approprié .

OpenAI dit aussi avoir travaillé avec plus de 170 experts en santé mentale afin d’aider ChatGPT à mieux reconnaître les signes de détresse, répondre avec prudence et guider les utilisateurs vers un soutien dans le monde réel . Dans cette logique, Trusted Contact ne se limite pas à reformuler la réponse du chatbot : l’option crée un chemin possible vers une personne réelle choisie par l’utilisateur .

Avant d’activer l’option : ce qu’il faut garder en tête

Le point central est le consentement. Trusted Contact est une fonction à activer volontairement : l’utilisateur adulte doit choisir lui-même le contact avant qu’une alerte puisse être envoyée .

Ce choix compte. Le contact désigné devrait être une personne susceptible de répondre avec sérieux à une alerte de prise de nouvelles, et assez disponible pour réagir si elle reçoit ce type de notification.

Il faut aussi voir l’outil comme un filet de sécurité, pas comme une prise en charge d’urgence. Les documents d’OpenAI décrivent le rôle de ChatGPT comme la détection de signaux de détresse, une réponse prudente et l’orientation vers du soutien humain ou des ressources de crise . En cas de danger immédiat, il faut passer par les services d’urgence ou de crise disponibles localement, plutôt que compter sur une notification envoyée par un chatbot.

Ce qui reste à préciser

Les sources disponibles détaillent le mécanisme général : un adulte active l’option, ChatGPT repère des signes possibles de risque d’automutilation ou de suicide, puis une alerte automatique peut demander au contact choisi de prendre des nouvelles . Elles ne fournissent pas de données indépendantes permettant d’affirmer que Trusted Contact réduit effectivement les risques en conditions réelles.

Elles ne précisent pas non plus, dans les éléments cités ici, le contenu exact du message envoyé au contact ni si des extraits de conversation sont partagés . Les personnes intéressées devraient donc consulter le parcours d’activation actuel et les informations de confidentialité dans ChatGPT avant d’utiliser la fonction.

L’essentiel

Trusted Contact est une nouvelle option de sécurité pour les adultes qui utilisent ChatGPT et souhaitent qu’une personne choisie à l’avance puisse être sollicitée lors d’échanges où apparaît un risque d’automutilation ou de suicide. Si elle est activée, ChatGPT peut encourager l’utilisateur à contacter ce proche et peut lui envoyer une alerte automatique de prise de nouvelles, ajoutant une couche humaine aux garde-fous déjà mis en avant par OpenAI .