GuíasElecciones técnicas de IA
Cambiar de modelo de IA sin romper tu aplicación
Preparar el terreno
| Práctica | Por qué |
|---|---|
| Una sola función que llama al modelo | Un solo sitio que cambiar |
| Modelo en una variable de entorno | Cambiar sin redesplegar el código |
| Prompts versionados | Saber qué prompt va con qué modelo |
| Conjunto de prueba con casos reales | Comparar objetivamente |
El cambio
- 1ProbarEl conjunto completo con el nuevo modelo.
- 2CompararCalidad, longitud, coste, latencia.
- 3AjustarPrompts y parámetros si hace falta.
- 4Desplegar por etapasUna parte del tráfico, luego todo.
- 5VigilarErrores y opiniones, vuelta atrás lista.
Lo que suele cambiar entre modelos
- Tono y longitudMás conciso o más extenso.
- ParámetrosAlgunos ajustes cambian o desaparecen.
- Precio por tokenRecalcular con tus volúmenes.
El control: evaluar un RAG y probar un chatbot de IA. La elección general: modelo open source o API.
Preguntas frecuentes
- ¿Un modelo nuevo siempre es mejor?
- Suele ser más capaz, pero no necesariamente mejor en tu caso. Puede responder más largo, seguir las instrucciones de otra forma o costar más. Solo tu conjunto de prueba lo dirá.
- ¿Hay que reescribir los prompts?
- A veces. Los prompts pensados para un modelo antiguo suelen contener apaños que ya no hacen falta. Prueba primero tal cual y luego simplifica.
- ¿Cómo se vuelve atrás?
- Guardando el identificador del modelo en la configuración: se vuelve a poner el anterior y se redespliega, sin tocar el código.