GuíasDesarrollo de IA
Limitar la factura de una API de IA: las cinco salvaguardas
Las cinco salvaguardas
- 1Límite en el proveedorUn tope mensual en la consola, por espacio de trabajo.
- 2Tope de respuesta
max_tokensen cada llamada. - 3Cuota por usuarioUn número de llamadas por hora y por día.
- 4AlertasAl 50 % y al 80 % del presupuesto del mes.
- 5RegistroTokens y coste por función, revisados cada semana.
Las causas clásicas de una factura disparada
| Causa | Solución |
|---|---|
| Un agente que entra en bucle | Un número máximo de pasos |
| Un formulario público usado por un robot | Cuota, captcha, autenticación |
| Un historial de conversación sin fin | Resumir a partir de unos pocos turnos |
| Un documento entero enviado con cada pregunta | Un RAG que solo envía los pasajes útiles |
| El modelo más grande en todas partes | Un modelo más ligero para las tareas simples |
Estimar antes
La calculadora de tokens y la del coste de una conversación dan el orden de magnitud. Para el presupuesto global: cuánto cuesta un proyecto de IA.
Preguntas frecuentes
- ¿Puede cortar el propio proveedor?
- La mayoría de las consolas permiten un límite de gasto mensual por cuenta o por espacio de trabajo. Más allá, las llamadas se rechazan. Es la última red, no la única.
- ¿Qué ve el usuario cuando se alcanza el límite?
- Un mensaje claro que hayas previsto («servicio no disponible temporalmente»), nunca un error técnico. Prevé también una alerta para ti.
- ¿Cómo saber cuánto cuesta cada función?
- Registrando, en cada llamada, la función, el usuario y los tokens de entrada y salida que devuelve la API.