GuíasEntender la IA

Tokens de IA: la unidad que pagas, explicada

Por el equipo de Banzai LabsActualizado el 3 min de lectura

ResumeestecontratoTu petición, en tokensEntradaSalida€€€€La factura cuenta las dos, la salida cuesta más
Una petición dividida en tokens: la factura cuenta los que entran y los que salen.

Qué es un token

Un modelo de lenguaje no lee letras ni palabras enteras. Divide el texto en trozos frecuentes, los tokens, y predice el siguiente token, uno a uno.

Lo que cuenta la factura
  • Tokens de entradaInstrucciones, historial, documentos adjuntos, descripción de las herramientas.
  • +
  • Tokens de salidaLa respuesta escrita por el modelo, más cara por token.
  • =
  • El coste de una llamadaMultiplicado por el número de llamadas del mes.

Adónde van los tokens

Partida Lo que pesa Palanca
Prompt de sistema Se repite en cada llamada Mantenerlo corto, ponerlo en caché
Historial Crece con cada mensaje Resumir los intercambios antiguos
Documentos Páginas enteras enviadas Enviar solo los pasajes útiles (RAG)
Respuesta La más cara por token Pedir un formato corto

Tres hábitos para reducir la factura

  1. 1MedirRegistrar los tokens de entrada y salida de cada llamada.
  2. 2Recortar la entradaMenos historial, extractos en lugar de documentos enteros.
  3. 3Elegir el modeloUno pequeño para clasificar o resumir, uno grande para razonar.

Para presupuestar un proyecto completo, mira Cuánto cuesta un proyecto de IA. Para entender cuánto puede leer un modelo, mira la ventana de contexto.

Preguntas frecuentes

¿Cuántos tokens tiene una palabra?
Una palabra común suele ser un token; una larga o rara son varios. El español suele consumir algo más de tokens que el inglés para el mismo texto.
¿Por qué una conversación sale cada vez más cara?
En cada mensaje, la aplicación reenvía al modelo todo el historial. El décimo mensaje también paga la lectura de los nueve primeros.
¿Cuentan las imágenes?
Sí. Una imagen o una página de PDF se convierte en tokens de entrada, a menudo varios cientos por imagen según su tamaño.

Para leer después

Todas las guías