GuidesFiabilité de l’IA

Valider la sortie d’un modèle avant de l’utiliser

Par l’équipe Banzai LabsMis à jour le 2 min de lecture

JSONSchéma+ règlesAcceptéerreur renvoyéeRien n’entre dans le système sans passer le contrôle
La sortie du modèle passe un schéma et des règles ; en cas d’échec, l’erreur lui est renvoyée.

Trois niveaux de contrôle

  1. 1FormatJSON lisible, champs présents.
  2. 2Types et valeursNombre, date, valeur dans une liste.
  3. 3Règles métierLe produit existe, la remise est plafonnée.

Avec Zod

import { z } from 'zod';

const Commande = z.object({
  produitId: z.string(),
  quantite: z.number().int().min(1).max(50),
  livraison: z.enum(['standard', 'express']),
});

async function extraire(texte: string, essais = 2) {
  let consigne = texte;
  for (let i = 0; i <= essais; i++) {
    const brut = await appelerModele(consigne);
    const r = Commande.safeParse(brut);
    if (r.success && (await produitExiste(r.data.produitId))) return r.data;
    consigne = `${texte}\n\nLa réponse précédente était invalide : ${r.success ? 'produit inconnu' : r.error.message}`;
  }
  return null; // repli : relecture humaine
}

Ce qu’on vérifie souvent

Sortie Contrôle
Montant Positif, plafonné, bonne devise
URL Domaine dans une liste autorisée
Destinataire Contact existant, pas une adresse inventée
Catégorie Valeur d’une liste fermée
Texte publié Longueur, mots interdits, relecture si sensible

La technique : un JSON fiable avec un LLM. Les risques : les hallucinations de l’IA et l’injection de prompt.

Questions fréquentes

L’outil imposé ne garantit-il pas déjà le format ?
Il rend le bon format très probable, et certains modes garantissent le respect du schéma. Les règles métier (un prix positif, une date future, un identifiant qui existe) restent à vérifier dans votre code.
Combien de nouveaux essais ?
Un ou deux suffisent en général. Au-delà, le problème vient de la consigne ou des données d’entrée : on passe au repli et on journalise le cas.
Quel repli prévoir ?
Une valeur par défaut sûre, une file de relecture humaine, ou un message clair à l’utilisateur. Jamais une donnée invalide enregistrée en silence.

À lire ensuite

Tous les guides