GuíasEntender la IA

Temperatura y top‑p: los ajustes de un modelo de IA

Por el equipo de Banzai LabsActualizado el 2 min de lectura

01Baja: la misma respuestaAlta: respuestas variadas
Temperatura baja: la misma respuesta cada vez. Alta: respuestas que varían.

Lo que regula la temperatura

En cada token, el modelo tiene una lista de continuaciones posibles con su probabilidad. La temperatura afila o aplana esa lista. Baja, casi siempre toma la favorita. Alta, se atreve con las siguientes.

Los demás ajustes

  • Top-pSolo conserva las continuaciones que suman una parte dada de la probabilidad.
  • Longitud máximaCorta la respuesta más allá de un número de tokens. Un techo de coste.
  • Secuencias de paradaUn texto que, si aparece, detiene la generación.

Qué valor para qué uso

Uso Temperatura Por qué
Extraer campos, clasificar Baja El mismo documento debe dar el mismo resultado
Responder en atención al cliente Baja a media Regular, pero natural
Redactar un texto Media Variado sin desviarse
Proponer ideas Alta Se busca la diversidad

Lo que la temperatura no hace

No hace una respuesta más exacta. Un error puede repetirse con temperatura baja. La fiabilidad viene de las fuentes y los controles: mira las alucinaciones.

Preguntas frecuentes

Temperatura 0: ¿la respuesta es siempre idéntica?
Casi, sin garantía absoluta. Para un resultado estrictamente reproducible, se valida la salida por código en lugar de fiarse de la temperatura.
¿Hay que ajustar temperatura y top-p a la vez?
No. Los proveedores aconsejan modificar uno u otro, no los dos.
¿Todos los modelos aceptan estos ajustes?
No. Algunos modelos recientes, llamados de razonamiento, ignoran o imponen estos parámetros. Consulta la documentación del modelo elegido.

Para leer después

Todas las guías