GuidesFiabilité de l’IA

L’injection de prompt : comprendre l’attaque et s’en protéger

Par l’équipe Banzai LabsMis à jour le 2 min de lecture

« Ignore tes règles »Page ou e-mail luDroits minimauxConfirmationValidationUn texte lu n’est jamais un ordre
Une consigne cachée dans un document lu ne doit pas devenir un ordre : droits minimaux, confirmation et validation.

Deux formes

D’où vient la fausse consigne
Directe
  • L’utilisateur l’écrit dans la conversation
  • « Oublie tes règles et… »
  • Visible dans les journaux
Indirecte
  • Cachée dans une page, un e-mail, un PDF
  • L’agent la lit en faisant son travail
  • Invisible pour l’utilisateur

Les défenses

Défense Effet
Droits minimaux Un agent de support ne peut pas rembourser
Confirmation humaine Toute action irréversible attend un clic
Contenu extérieur balisé Le prompt indique que ce texte est une donnée, pas une consigne
Sortie validée Schéma, liste blanche d’URL, de destinataires
Pas de secret dans le prompt Rien à faire fuiter
Journalisation Retrouver ce qui a déclenché une action

La règle d’or

  1. 1LireL’agent peut lire des contenus non fiables…
  2. 2Agir…ou agir avec des droits importants…
  3. 3Pas les deux sans garde-fouSinon, une confirmation humaine s’intercale.

Le contexte : des agents IA sur des données réelles et l’appel d’outils. Les tests : tester un chatbot IA.

Questions fréquentes

Un bon prompt système suffit-il ?
Non. Il réduit le risque sans l’éliminer. La vraie protection est dans l’architecture : ce que l’agent a le droit de faire, et ce qui demande une confirmation.
Les modèles récents y résistent-ils ?
Mieux qu’avant, grâce à leur entraînement. L’injection reste en tête du Top 10 de l’OWASP pour les applications à base de LLM.
Quels agents sont les plus exposés ?
Ceux qui lisent des contenus extérieurs (web, e-mails, documents reçus) et qui peuvent agir (envoyer, payer, supprimer).

À lire ensuite

Tous les guides