GuíasFiabilidad de la IA

Validar la salida de un modelo antes de usarla

Por el equipo de Banzai LabsActualizado el 2 min de lectura

JSONEsquema+ reglasAceptadoerror devueltoNada entra en el sistema sin pasar el control
La salida del modelo pasa por un esquema y unas reglas; si falla, se le devuelve el error.

Tres niveles de control

  1. 1FormatoJSON legible, campos presentes.
  2. 2Tipos y valoresNúmero, fecha, valor de una lista.
  3. 3Reglas de negocioEl producto existe, el descuento tiene tope.

Con Zod

import { z } from 'zod';

const Pedido = z.object({
  productoId: z.string(),
  cantidad: z.number().int().min(1).max(50),
  envio: z.enum(['estandar', 'urgente']),
});

async function extraer(texto: string, reintentos = 2) {
  let consigna = texto;
  for (let i = 0; i <= reintentos; i++) {
    const bruto = await llamarModelo(consigna);
    const r = Pedido.safeParse(bruto);
    if (r.success && (await productoExiste(r.data.productoId))) return r.data;
    consigna = `${texto}\n\nLa respuesta anterior no era válida: ${r.success ? 'producto desconocido' : r.error.message}`;
  }
  return null; // respaldo: revisión humana
}

Lo que se suele comprobar

Salida Control
Importe Positivo, con tope, moneda correcta
URL Dominio de una lista permitida
Destinatario Contacto existente, no una dirección inventada
Categoría Valor de una lista cerrada
Texto publicado Longitud, palabras prohibidas, revisión si es sensible

La técnica: un JSON fiable con un LLM. Los riesgos: las alucinaciones de la IA y la inyección de prompt.

Preguntas frecuentes

¿La herramienta impuesta no garantiza ya el formato?
Hace muy probable el formato correcto, y algunos modos garantizan que se respeta el esquema. Las reglas de negocio (un precio positivo, una fecha futura, un identificador que existe) hay que comprobarlas en tu código.
¿Cuántos reintentos?
Uno o dos suelen bastar. Más allá, el problema está en la instrucción o en los datos de entrada: se pasa al respaldo y se registra el caso.
¿Qué respaldo prever?
Un valor por defecto seguro, una cola de revisión humana o un mensaje claro al usuario. Nunca un dato inválido guardado en silencio.

Para leer después

Todas las guías