IA como coach: qué pueden hacer los chatbots y dónde está el límite

Qué dicen las fuentes

Brown University: un comunicado de Brown sobre una investigación reciente señala que los chatbots basados en grandes modelos de lenguaje pueden violar estándares éticos centrales en escenarios de salud mental, incluso cuando se les dan instrucciones terapéuticas . Entre los riesgos mencionados aparecen respuestas engañosas, empatía aparente, refuerzo de creencias negativas y mala gestión de crisis . Brown también reconoce un posible potencial de la IA para reducir barreras como el coste o la falta de disponibilidad, pero los riesgos descritos apuntan a la necesidad de cautela, supervisión y regulación, no a un reemplazo libre de la terapia .

University of Minnesota: la universidad resume nuevas investigaciones con una advertencia directa: los chatbots de IA no deberían reemplazar a los terapeutas . Según su comunicado, por primera vez se evaluaron sistemas de IA frente a estándares clínicos para terapeutas, y se describieron debilidades peligrosas al usarlos como apoyo en salud mental .

American Psychological Association: la APA advierte que los chatbots de IA generativa y las apps de bienestar, por sí solos, no cuentan con evidencia ni regulación suficientes para garantizar la seguridad de los usuarios . En la práctica, esto significa que un chatbot puede sonar empático y convincente sin ser clínicamente fiable .

Usos razonables de la IA para el autocoaching

La IA encaja mejor cuando el tema no es urgente, no es clínico y no requiere una evaluación profesional. En ese contexto, su papel debería ser estructurar, no dictar conclusiones.

Puede servir para:

• poner en orden una situación cotidiana que te preocupa
• listar prioridades, opciones o pequeños pasos siguientes
• sugerir preguntas neutrales para escribir en un diario personal
• preparar una conversación con una terapeuta, un médico, una profesora, un jefe o una persona de confianza
• redactar borradores para conversaciones difíciles pero no peligrosas
• recordar estrategias de afrontamiento que ya sabes que te ayudan

El marco seguro sería este: nada de crisis aguda, nada de diagnóstico, nada de decisiones sobre medicación y nada que requiera valoración clínica o seguimiento. Esa separación se desprende de las advertencias sobre sustitución de terapia, evidencia insuficiente y problemas de seguridad en contextos de salud mental .

Cuándo no deberías usar un chatbot como apoyo mental

No dependas de un chatbot como consejero ni como única ayuda si aparece cualquiera de estas situaciones:

• pensamientos suicidas, impulso de autolesión o riesgo inmediato para tu seguridad
• sospecha de un problema de salud mental que requiere atención, como depresión, ansiedad, psicosis, trauma, adicción o trastorno de la conducta alimentaria
• preguntas sobre medicamentos, dosis o efectos secundarios
• deseo de recibir un diagnóstico
• desesperación intensa, pérdida de control o sensación de no estar a salvo
• situaciones en las que importan la responsabilidad profesional, la evaluación cualificada y el seguimiento

Estos casos requieren ayuda humana cualificada. Las fuentes citadas mencionan riesgos como gestión deficiente de crisis, incumplimiento de estándares terapéuticos y falta de evidencia o regulación suficiente para un uso seguro .

Por qué un chat puede parecer más útil de lo que es

Un diálogo fluido y cálido no demuestra calidad terapéutica. Esto es especialmente delicado en salud mental: un sistema puede responder de forma convincente sin tener formación clínica, responsabilidad profesional ni capacidad real de seguimiento. Brown señala que los chatbots pueden reforzar creencias negativas y reaccionar mal ante crisis . La APA añade que la evidencia y la regulación disponibles para chatbots generativos y apps de bienestar no bastan para garantizar la seguridad de quienes los usan .

Una señal de alarma es salir de la conversación con más vergüenza, más dependencia del siguiente mensaje, más bloqueo, más miedo o menos sensación de seguridad. Si ocurre, conviene parar el chat y buscar apoyo humano.

Reglas prácticas para un uso más seguro

Si quieres usar IA para una autorreflexión sencilla, define muy bien su papel:

1. Pide estructura, no diagnóstico. Que te ayude a ordenar ideas, generar preguntas o preparar notas; no a evaluarte clínicamente.
2. Trata sus respuestas como borradores. Revisa con calma lo que propone y no lo conviertas automáticamente en una decisión.
3. No lleves una crisis al chatbot. Ante autolesión, ideas suicidas o angustia aguda, hace falta ayuda humana inmediata .
4. Úsala para preparar ayuda profesional. Puede ser útil ordenar síntomas, dudas u observaciones antes de hablar con una persona cualificada.
5. Detente si te hace sentir peor. Un chatbot no debería empujarte a rumiar más, aumentar tu ansiedad o reforzar desesperanza; Brown identifica el refuerzo de creencias negativas como un riesgo .

Prompts más seguros y prompts arriesgados

Un prompt más prudente para autocoaching de bajo riesgo sería:

Quiero ordenar un asunto cotidiano que no es urgente. No busco diagnóstico ni terapia. Hazme cinco preguntas neutrales de reflexión, resume mis opciones y recuérdame que, si el malestar persiste, debo buscar apoyo profesional.

Un prompt arriesgado sería:

Actúa como mi terapeuta, diagnostícame y dime exactamente qué tengo que hacer.

El segundo empuja a la IA a ocupar un lugar para el que las fuentes citadas no ofrecen garantías suficientes de seguridad ni fiabilidad .

Conclusión

La IA puede ser un buen cuaderno con preguntas: ayuda a ordenar ideas, preparar conversaciones y empezar una reflexión cotidiana. Pero cuando hablamos de salud mental, sus límites importan. Terapia, diagnóstico, medicación y ayuda en crisis deben quedar en manos de profesionales cualificados y redes humanas de apoyo, no de un chatbot .