GuidesFiabilité de l’IA
Valider la sortie d’un modèle avant de l’utiliser
Trois niveaux de contrôle
- 1FormatJSON lisible, champs présents.
- 2Types et valeursNombre, date, valeur dans une liste.
- 3Règles métierLe produit existe, la remise est plafonnée.
Avec Zod
import { z } from 'zod';
const Commande = z.object({
produitId: z.string(),
quantite: z.number().int().min(1).max(50),
livraison: z.enum(['standard', 'express']),
});
async function extraire(texte: string, essais = 2) {
let consigne = texte;
for (let i = 0; i <= essais; i++) {
const brut = await appelerModele(consigne);
const r = Commande.safeParse(brut);
if (r.success && (await produitExiste(r.data.produitId))) return r.data;
consigne = `${texte}\n\nLa réponse précédente était invalide : ${r.success ? 'produit inconnu' : r.error.message}`;
}
return null; // repli : relecture humaine
}
Ce qu’on vérifie souvent
| Sortie | Contrôle |
|---|---|
| Montant | Positif, plafonné, bonne devise |
| URL | Domaine dans une liste autorisée |
| Destinataire | Contact existant, pas une adresse inventée |
| Catégorie | Valeur d’une liste fermée |
| Texte publié | Longueur, mots interdits, relecture si sensible |
La technique : un JSON fiable avec un LLM. Les risques : les hallucinations de l’IA et l’injection de prompt.
Questions fréquentes
- L’outil imposé ne garantit-il pas déjà le format ?
- Il rend le bon format très probable, et certains modes garantissent le respect du schéma. Les règles métier (un prix positif, une date future, un identifiant qui existe) restent à vérifier dans votre code.
- Combien de nouveaux essais ?
- Un ou deux suffisent en général. Au-delà, le problème vient de la consigne ou des données d’entrée : on passe au repli et on journalise le cas.
- Quel repli prévoir ?
- Une valeur par défaut sûre, une file de relecture humaine, ou un message clair à l’utilisateur. Jamais une donnée invalide enregistrée en silence.