GuíasFiabilidad de la IA

La inyección de prompt: entender el ataque y protegerse

Por el equipo de Banzai LabsActualizado el 2 min de lectura

«Ignora tus reglas»Página o e-mail leídoMínimos permisosConfirmaciónValidaciónUn texto leído nunca es una orden
Una instrucción escondida en un documento no debe convertirse en una orden: mínimos permisos, confirmación y validación.

Dos formas

De dónde viene la falsa instrucción
Directa
  • El usuario la escribe en la conversación
  • «Olvida tus reglas y…»
  • Visible en los registros
Indirecta
  • Oculta en una página, un correo, un PDF
  • El agente la lee mientras trabaja
  • Invisible para el usuario

Las defensas

Defensa Efecto
Permisos mínimos Un agente de soporte no puede reembolsar
Confirmación humana Toda acción irreversible espera un clic
Contenido externo marcado El prompt indica que ese texto es un dato, no una instrucción
Salida validada Esquema, lista blanca de URL y destinatarios
Sin secretos en el prompt Nada que filtrar
Registro Saber qué desencadenó una acción

La regla de oro

  1. 1LeerEl agente puede leer contenidos no fiables…
  2. 2Actuar…o actuar con permisos importantes…
  3. 3No ambas cosas sin protecciónSi no, se intercala una confirmación humana.

El contexto: agentes de IA con datos reales y la llamada a herramientas. Las pruebas: probar un chatbot de IA.

Preguntas frecuentes

¿Basta con un buen prompt de sistema?
No. Reduce el riesgo sin eliminarlo. La verdadera protección está en la arquitectura: lo que el agente tiene derecho a hacer y lo que requiere confirmación.
¿Los modelos recientes la resisten?
Mejor que antes, gracias a su entrenamiento. La inyección sigue encabezando el Top 10 de OWASP para aplicaciones basadas en LLM.
¿Qué agentes están más expuestos?
Los que leen contenidos externos (web, correos, documentos recibidos) y pueden actuar (enviar, pagar, borrar).

Para leer después

Todas las guías