GuidesFiabilité de l’IA
L’injection de prompt : comprendre l’attaque et s’en protéger
Deux formes
Directe
Indirecte
Les défenses
| Défense | Effet |
|---|---|
| Droits minimaux | Un agent de support ne peut pas rembourser |
| Confirmation humaine | Toute action irréversible attend un clic |
| Contenu extérieur balisé | Le prompt indique que ce texte est une donnée, pas une consigne |
| Sortie validée | Schéma, liste blanche d’URL, de destinataires |
| Pas de secret dans le prompt | Rien à faire fuiter |
| Journalisation | Retrouver ce qui a déclenché une action |
La règle d’or
- 1LireL’agent peut lire des contenus non fiables…
- 2Agir…ou agir avec des droits importants…
- 3Pas les deux sans garde-fouSinon, une confirmation humaine s’intercale.
Le contexte : des agents IA sur des données réelles et l’appel d’outils. Les tests : tester un chatbot IA.
Questions fréquentes
- Un bon prompt système suffit-il ?
- Non. Il réduit le risque sans l’éliminer. La vraie protection est dans l’architecture : ce que l’agent a le droit de faire, et ce qui demande une confirmation.
- Les modèles récents y résistent-ils ?
- Mieux qu’avant, grâce à leur entraînement. L’injection reste en tête du Top 10 de l’OWASP pour les applications à base de LLM.
- Quels agents sont les plus exposés ?
- Ceux qui lisent des contenus extérieurs (web, e-mails, documents reçus) et qui peuvent agir (envoyer, payer, supprimer).