GuíasFiabilidad de la IA
Validar la salida de un modelo antes de usarla
Tres niveles de control
- 1FormatoJSON legible, campos presentes.
- 2Tipos y valoresNúmero, fecha, valor de una lista.
- 3Reglas de negocioEl producto existe, el descuento tiene tope.
Con Zod
import { z } from 'zod';
const Pedido = z.object({
productoId: z.string(),
cantidad: z.number().int().min(1).max(50),
envio: z.enum(['estandar', 'urgente']),
});
async function extraer(texto: string, reintentos = 2) {
let consigna = texto;
for (let i = 0; i <= reintentos; i++) {
const bruto = await llamarModelo(consigna);
const r = Pedido.safeParse(bruto);
if (r.success && (await productoExiste(r.data.productoId))) return r.data;
consigna = `${texto}\n\nLa respuesta anterior no era válida: ${r.success ? 'producto desconocido' : r.error.message}`;
}
return null; // respaldo: revisión humana
}
Lo que se suele comprobar
| Salida | Control |
|---|---|
| Importe | Positivo, con tope, moneda correcta |
| URL | Dominio de una lista permitida |
| Destinatario | Contacto existente, no una dirección inventada |
| Categoría | Valor de una lista cerrada |
| Texto publicado | Longitud, palabras prohibidas, revisión si es sensible |
La técnica: un JSON fiable con un LLM. Los riesgos: las alucinaciones de la IA y la inyección de prompt.
Preguntas frecuentes
- ¿La herramienta impuesta no garantiza ya el formato?
- Hace muy probable el formato correcto, y algunos modos garantizan que se respeta el esquema. Las reglas de negocio (un precio positivo, una fecha futura, un identificador que existe) hay que comprobarlas en tu código.
- ¿Cuántos reintentos?
- Uno o dos suelen bastar. Más allá, el problema está en la instrucción o en los datos de entrada: se pasa al respaldo y se registra el caso.
- ¿Qué respaldo prever?
- Un valor por defecto seguro, una cola de revisión humana o un mensaje claro al usuario. Nunca un dato inválido guardado en silencio.