GuidesComprendre l’IA

Token IA : l’unité que vous payez, expliquée

Par l’équipe Banzai LabsMis à jour le 3 min de lecture

RésumezcecontratVotre demande, en tokensEntréeSortie€€€€La facture compte les deux, la sortie coûte plus cher
Une demande découpée en tokens : la facture compte ceux qui entrent et ceux qui sortent.

Ce qu’est un token

Un modèle de langage ne lit pas des lettres ni des mots entiers. Il découpe le texte en morceaux fréquents, les tokens, puis prédit le token suivant, un par un.

Ce que compte la facture
  • Tokens d’entréeConsignes, historique, documents joints, description des outils.
  • +
  • Tokens de sortieLa réponse écrite par le modèle, plus chère au token.
  • =
  • Le coût d’un appelMultiplié par le nombre d’appels du mois.

Où partent les tokens

Poste Ce qui pèse Levier
Prompt système Répété à chaque appel Le garder court, le mettre en cache
Historique Grossit à chaque message Résumer les vieux échanges
Documents Pages entières envoyées N’envoyer que les passages utiles (RAG)
Réponse Le poste le plus cher au token Demander un format court

Trois réflexes pour réduire la facture

  1. 1MesurerJournaliser les tokens d’entrée et de sortie de chaque appel.
  2. 2Couper l’entréeMoins d’historique, des extraits plutôt que des documents entiers.
  3. 3Choisir le modèleUn petit modèle pour trier ou résumer, un grand pour raisonner.

Pour chiffrer un projet complet, voir Combien coûte un projet IA. Pour comprendre la limite de lecture d’un modèle, voir la fenêtre de contexte.

Questions fréquentes

Combien de tokens fait un mot ?
Un mot courant fait souvent un token, un mot long ou rare en fait plusieurs. Le français consomme en général un peu plus de tokens que l’anglais pour le même texte.
Pourquoi une conversation coûte-t-elle de plus en plus cher ?
À chaque message, l’application renvoie au modèle tout l’historique. Le dixième message paie aussi la lecture des neuf premiers.
Les images comptent-elles ?
Oui. Une image ou une page de PDF est convertie en tokens d’entrée, souvent plusieurs centaines par image selon sa taille.

À lire ensuite

Tous les guides