GuíasFiabilidad de la IA
Alucinaciones de la IA: por qué inventa y cómo evitarlo
Por qué un modelo inventa
Un modelo de lenguaje completa un texto con la continuación más probable. Cuando le falta información, la continuación más probable es una respuesta que parece correcta. No miente: rellena el hueco.
Lo que provoca alucinaciones
Lo que las evita
El método, en cinco puntos
- 1Dar la fuenteLos pasajes útiles, buscados en tus documentos (RAG).
- 2Permitir no saber«Si la respuesta no está en los documentos, dilo.»
- 3Exigir la citaCada afirmación remite al pasaje que la respalda.
- 4Comprobar por códigoPrecios, fechas, referencias: comparados con la base antes de mostrarlos.
- 5ProbarUna serie de preguntas trampa, repetida en cada cambio.
Dónde ser más prudente
| Uso | Riesgo | Salvaguarda |
|---|---|---|
| Atención al cliente | Una promesa inventada | Respuestas limitadas a contenidos validados |
| Cifras, precios | Un importe falso | Valor leído en la base, nunca generado |
| Jurídico, salud | Un error que compromete | Revisión humana sistemática |
Mira también Chatbot de IA para tu web y Agentes de IA con datos reales.
Preguntas frecuentes
- ¿Se pueden eliminar del todo las alucinaciones?
- No. Se vuelven raras y detectables: respuesta apoyada en una fuente, comprobación por código de cifras y referencias, revisión humana en lo que compromete.
- ¿Basta con bajar la temperatura?
- No. Hace las respuestas más regulares, no más ciertas. Un modelo puede repetir el mismo error con seguridad.
- ¿Un modelo más reciente alucina menos?
- En general sí, pero la primera palanca sigue siendo la misma: darle la información en lugar de fiarse de su memoria.