GuíasEntender la IA

El reranking: releer los resultados para quedarse con los buenos

Por el equipo de Banzai LabsActualizado el 2 min de lectura

50 candidatosRerankerpregunta + pasaje0.940.880.81Releer los mejores candidatos con la pregunta y quedarse con los buenos
El reranker relee cada candidato con la pregunta y solo conserva los más pertinentes.

Dos formas de comparar

Embeddings o reranker
Embeddings
  • Pregunta y pasaje codificados por separado
  • Comparar dos vectores: muy rápido
  • Sobre millones de pasajes
Reranker
  • Pregunta y pasaje leídos juntos
  • Juicio más fino, más lento
  • Sobre unas decenas de candidatos

Su lugar en un RAG

  1. 1Búsqueda50 candidatos, por palabras clave y por significado.
  2. 2RerankingCada candidato puntuado con la pregunta.
  3. 3SelecciónLos 5 mejores, por encima de un umbral.
  4. 4RespuestaEl modelo solo lee esos pasajes.

El balance

Aspecto Efecto
Calidad Menos pasajes fuera de tema, respuestas más exactas
Coste del modelo principal Menos texto que leer
Latencia Un paso más
Complejidad Un servicio o un modelo más que mantener

Mide la ganancia con tu conjunto de prueba: evaluar un RAG. Antes del reranking: la búsqueda híbrida.

Preguntas frecuentes

¿Por qué no aplicar el reranking a todo el corpus?
Porque es lento: el reranker procesa cada par pregunta-pasaje. Se aplica a las pocas decenas de candidatos ya encontrados.
¿Qué modelos existen?
Servicios como Cohere Rerank o Voyage ofrecen rerankers, y modelos open source como bge-reranker pueden funcionar en tus servidores.
¿Cuánto tiempo añade?
En general de unas decenas a unos cientos de milisegundos según el modelo y el número de candidatos. Mídelo con tus datos.

Para leer después

Todas las guías