GuíasFiabilidad de la IA

Alucinaciones de la IA: por qué inventa y cómo evitarlo

Por el equipo de Banzai LabsActualizado el 2 min de lectura

Sin fuente: rellena el huecoCon fuente: cita
Sin fuente, el modelo rellena el hueco. Con una fuente, cita y se comprueba.

Por qué un modelo inventa

Un modelo de lenguaje completa un texto con la continuación más probable. Cuando le falta información, la continuación más probable es una respuesta que parece correcta. No miente: rellena el hueco.

Las causas y el remedio
Lo que provoca alucinaciones
  • Una información ausente
  • Una pregunta ambigua
  • Una instrucción que obliga a responder
  • Un contexto demasiado largo
Lo que las evita
  • Las fuentes en el contexto
  • El derecho a decir «no lo sé»
  • Una cita obligatoria
  • Un control por código

El método, en cinco puntos

  1. 1Dar la fuenteLos pasajes útiles, buscados en tus documentos (RAG).
  2. 2Permitir no saber«Si la respuesta no está en los documentos, dilo.»
  3. 3Exigir la citaCada afirmación remite al pasaje que la respalda.
  4. 4Comprobar por códigoPrecios, fechas, referencias: comparados con la base antes de mostrarlos.
  5. 5ProbarUna serie de preguntas trampa, repetida en cada cambio.

Dónde ser más prudente

Uso Riesgo Salvaguarda
Atención al cliente Una promesa inventada Respuestas limitadas a contenidos validados
Cifras, precios Un importe falso Valor leído en la base, nunca generado
Jurídico, salud Un error que compromete Revisión humana sistemática

Mira también Chatbot de IA para tu web y Agentes de IA con datos reales.

Preguntas frecuentes

¿Se pueden eliminar del todo las alucinaciones?
No. Se vuelven raras y detectables: respuesta apoyada en una fuente, comprobación por código de cifras y referencias, revisión humana en lo que compromete.
¿Basta con bajar la temperatura?
No. Hace las respuestas más regulares, no más ciertas. Un modelo puede repetir el mismo error con seguridad.
¿Un modelo más reciente alucina menos?
En general sí, pero la primera palanca sigue siendo la misma: darle la información en lugar de fiarse de su memoria.

Para leer después

Todas las guías