IA, coaching et santé mentale : où placer la limite ?

Ce que disent les sources

Brown University : une communication de Brown sur de nouvelles recherches indique que des chatbots fondés sur de grands modèles de langage peuvent violer des standards éthiques centraux dans des scénarios de santé mentale, même lorsqu’ils reçoivent des consignes thérapeutiques . Les risques cités incluent des réponses trompeuses, une empathie apparente, le renforcement de croyances négatives et une gestion insuffisante des crises . Brown note aussi que l’IA pourrait, en principe, réduire certains obstacles comme le coût ou le manque de disponibilité des soins. Mais les risques observés plaident pour la prudence, la supervision et la régulation — pas pour un remplacement incontrôlé de la thérapie .

Université du Minnesota : l’université résume de nouvelles recherches en affirmant que les chatbots d’IA ne devraient pas remplacer les thérapeutes . Selon cette communication, des systèmes d’IA ont été évalués pour la première fois au regard de standards cliniques applicables aux thérapeutes ; l’étude décrit des faiblesses dangereuses lorsqu’ils sont utilisés pour du soutien psychologique .

American Psychological Association : l’APA avertit que les chatbots d’IA générative et les applications de bien-être ne disposent pas, à eux seuls, de suffisamment de preuves ni de régulation pour garantir la sécurité des utilisateurs . Autrement dit, un chatbot peut sembler chaleureux, empathique et convaincant sans être cliniquement fiable .

Les usages raisonnables : un outil de structure, pas une autorité

L’usage le plus prudent concerne des sujets non urgents et non cliniques. Dans ce cadre, l’IA ne devrait pas décider à votre place : elle peut seulement aider à mettre de l’ordre.

Elle peut par exemple servir à :

• reformuler une situation stressante en quelques points ;
• lister des priorités, des options ou de petites étapes réalistes ;
• proposer des questions neutres pour un journal personnel ;
• préparer une discussion avec un professionnel, un responsable, un enseignant ou une personne proche ;
• rédiger une première version d’un message difficile, mais sans enjeu de sécurité immédiat ;
• rappeler des routines ou stratégies d’adaptation que vous savez déjà utiles pour vous.

Le cadre de sécurité est simple : pas de crise aiguë, pas de diagnostic, pas de décision médicamenteuse, pas de situation nécessitant une évaluation qualifiée et un suivi. Cette limite découle des alertes sur le remplacement de la thérapie, le manque de preuves et les problèmes de sécurité en contexte de santé mentale .

Quand ne pas utiliser un chatbot comme aide psychologique

Ne vous appuyez pas sur un chatbot comme conseiller principal, et encore moins comme seule aide, si l’un de ces cas vous concerne :

• idées suicidaires, envie de vous faire du mal ou risque immédiat pour votre sécurité ;
• suspicion d’un trouble nécessitant une prise en charge, comme une dépression, un trouble anxieux, une psychose, un traumatisme, une addiction ou un trouble du comportement alimentaire ;
• questions sur des médicaments, leurs effets secondaires ou leur dosage ;
• demande de diagnostic ;
• détresse intense, perte de contrôle ou sentiment de ne plus être en sécurité ;
• situation où la responsabilité, l’évaluation professionnelle et le suivi sont essentiels.

Ces situations nécessitent une aide humaine qualifiée. Les sources citées signalent explicitement des risques tels qu’une mauvaise gestion des crises, des écarts par rapport aux standards thérapeutiques et une absence de preuves ou de régulation suffisantes pour garantir un usage sûr .

Pourquoi une conversation avec une IA peut sembler plus sûre qu’elle ne l’est

Un échange fluide et bienveillant n’est pas une preuve de qualité thérapeutique. C’est même l’un des pièges : un système peut répondre avec assurance, douceur et cohérence apparente, sans avoir la formation, la responsabilité, le secret professionnel, le jugement clinique ni la capacité de suivi d’un professionnel.

Brown University rapporte que des chatbots peuvent renforcer des croyances négatives et réagir de façon problématique en situation de crise . L’APA souligne de son côté que les preuves et la régulation entourant les chatbots d’IA générative et les applications de bien-être ne suffisent pas à garantir la sécurité des utilisateurs .

Un signal d’alerte : après une conversation avec un chatbot, vous vous sentez plus enfermé, honteux, dépendant du prochain échange, poussé dans une direction ou moins en sécurité. Dans ce cas, il vaut mieux arrêter la discussion et chercher un soutien humain.

Cinq garde-fous pour un usage plus sûr

Si vous utilisez l’IA pour une réflexion personnelle sans urgence, posez-lui explicitement des limites :

1. Demandez de la structure, pas un diagnostic. Faites-lui organiser des idées, proposer des questions ou préparer des notes — pas évaluer votre état psychique.
2. Considérez ses réponses comme un brouillon. Prenez du recul avant d’agir et ne les traitez pas comme une décision finale.
3. Ne gérez pas une crise dans le chat. En cas de risque pour vous-même, d’idées suicidaires ou de détresse aiguë, il faut une aide humaine .
4. Servez-vous-en pour préparer un rendez-vous. Un bon usage consiste à classer vos symptômes, questions ou observations avant de parler à une personne qualifiée.
5. Arrêtez si cela aggrave l’état émotionnel. Un chatbot ne devrait pas vous entraîner plus loin dans la rumination, l’angoisse ou le désespoir ; Brown cite le renforcement de croyances négatives comme un risque .

Exemples de prompts : prudent ou risqué

Un prompt plus sûr pour un sujet non urgent :

Je veux clarifier une situation du quotidien qui n’est pas urgente. Je ne cherche ni diagnostic ni thérapie. Pose-moi cinq questions de réflexion neutres, résume mes options et rappelle-moi de demander une aide qualifiée si la détresse persiste.

Un prompt risqué :

Sois mon thérapeute, diagnostique-moi et dis-moi exactement quoi faire.

Le second prompt place l’IA dans un rôle pour lequel les sources citées ne montrent pas de sécurité fiable .

À retenir

L’IA peut être un carnet de notes intelligent : utile pour formuler, classer, préparer, prendre un peu de recul. Mais pour la santé mentale, elle reste un outil complémentaire avec des limites importantes. Thérapie, diagnostic, conseil médicamenteux et aide en cas de crise doivent rester entre les mains de personnes qualifiées, pas d’un chatbot .