7 formas probadas de evitar que ChatGPT invente cosas (Guía contra alucinaciones)

3. Exige citas y trazabilidad

Pídele a ChatGPT que cite fuentes específicas para cada afirmación, incluyendo la URL o el documento de referencia . Eso sí, ten en cuenta que las propias citas también pueden ser inventadas, así que trátalas como afirmaciones que debes verificar, no como una prueba . Aun así, exigir trazabilidad empuja al modelo a dar respuestas más estructuradas y basadas en fuentes .

4. Divide las preguntas complejas en otras pequeñas y directas

En lugar de hacer una pregunta muy amplia, haz una serie de preguntas concretas y específicas . Reducir el alcance de la tarea disminuye los "grados de libertad" del modelo, haciendo que sea menos probable que genere contenido no fundamentado . Por ejemplo, en vez de preguntar "¿Cuáles son los efectos del cambio climático?", plantea tres preguntas específicas sobre temperatura, nivel del mar y agricultura.

5. Usa un rol definido y restricciones explícitas

Establece un rol claro y prohíbe términos vagos . Ejemplo: "Eres un asistente de investigación. Usa solo la información del documento que te he proporcionado. Si la respuesta no está en el documento, di 'No especificado'." Estas barreras de comportamiento estrictas mantienen al modelo anclado en el contexto que le has dado .

6. Exige una verificación en varios pasos

Añade una meta-instrucción: "Antes de responder, verifica cada afirmación fáctica con las fuentes proporcionadas y señala cualquier cosa que no puedas verificar." Esto incita al modelo a autocomprobarse antes de escribir su respuesta . Pedirle que muestre su razonamiento o las fuentes te permite inspeccionar sus afirmaciones, pero no debe sustituir tu propia verificación .

7. Verifica siempre tú mismo las afirmaciones importantes

Trata cada dato factual concreto que genere —fechas, estadísticas, nombres, leyes, detalles médicos o financieros— como una hipótesis que debe comprobarse, no como una conclusión de fiar . Usa fuentes independientes para confirmar las afirmaciones de alto riesgo antes de actuar basándote en ellas. Vuelve a hacer la misma pregunta, pero redactada de otra forma o en otro momento; si las respuestas son inconsistentes, es una señal muy clara de que el modelo está alucinando .

Lo que no funciona de forma fiable

• Simplemente preguntarle "¿Estás seguro?" es mucho menos efectivo que pedirle fuentes, pruebas, abstención o pasos de verificación explícitos .
• Confiar en las citas sin comprobarlas es arriesgado: las citas en sí mismas deben tratarse como afirmaciones a verificar .

El punto clave

Las alucinaciones no se pueden detener por completo; el objetivo es reducir los daños, no eliminarlos . Combinar varias técnicas —basarse en documentos, forzar la abstención, exigir citas y hacer una verificación manual— te da una defensa mucho más sólida que confiar en un solo método .