GuíasFiabilidad de la IA
La inyección de prompt: entender el ataque y protegerse
Dos formas
Directa
Indirecta
Las defensas
| Defensa | Efecto |
|---|---|
| Permisos mínimos | Un agente de soporte no puede reembolsar |
| Confirmación humana | Toda acción irreversible espera un clic |
| Contenido externo marcado | El prompt indica que ese texto es un dato, no una instrucción |
| Salida validada | Esquema, lista blanca de URL y destinatarios |
| Sin secretos en el prompt | Nada que filtrar |
| Registro | Saber qué desencadenó una acción |
La regla de oro
- 1LeerEl agente puede leer contenidos no fiables…
- 2Actuar…o actuar con permisos importantes…
- 3No ambas cosas sin protecciónSi no, se intercala una confirmación humana.
El contexto: agentes de IA con datos reales y la llamada a herramientas. Las pruebas: probar un chatbot de IA.
Preguntas frecuentes
- ¿Basta con un buen prompt de sistema?
- No. Reduce el riesgo sin eliminarlo. La verdadera protección está en la arquitectura: lo que el agente tiene derecho a hacer y lo que requiere confirmación.
- ¿Los modelos recientes la resisten?
- Mejor que antes, gracias a su entrenamiento. La inyección sigue encabezando el Top 10 de OWASP para aplicaciones basadas en LLM.
- ¿Qué agentes están más expuestos?
- Los que leen contenidos externos (web, correos, documentos recibidos) y pueden actuar (enviar, pagar, borrar).