Despliegue de Modelos (Model Serving)
Convertir un modelo entrenado en un servicio que otras aplicaciones puedan consumir de forma confiable.
ÁreaMLOps y Modelos en Producción
DificultadAvanzado
Tiempo de aprendizaje4-6 semanas
¿Qué puedes lograr dominando este tema?
- Exponer un modelo entrenado como un endpoint de API que otros sistemas pueden llamar
- Elegir entre inferencia en batch, en tiempo real o en el dispositivo (edge)
- Empaquetar un modelo con sus dependencias para que corra igual en cualquier entorno
Descripción
El despliegue de modelos cubre todo lo necesario para que un modelo entrenado deje de ser un archivo en un notebook y se convierta en un servicio confiable: empaquetarlo, exponerlo como API, optimizarlo para latencia y escalarlo según la demanda.
Casos de uso
- Exposición de modelos como endpoints de API en producción
- Inferencia en batch sobre grandes volúmenes de datos periódicamente
- Despliegue de modelos en dispositivos móviles o edge
- Integración de modelos de ML dentro de aplicaciones existentes
Ejemplo práctico
from fastapi import FastAPI
import joblib
app = FastAPI()
modelo = joblib.load("modelo.pkl")
@app.post("/predecir")
def predecir(datos: dict):
return {"prediccion": modelo.predict([list(datos.values())]).tolist()}Ventajas y limitaciones
Ventajas
- Convierte el trabajo de ciencia de datos en valor de negocio real y usable
- Existen patrones y herramientas maduras (Docker, Kubernetes, servicios cloud)
- Permite escalar el uso de un modelo a millones de peticiones
Limitaciones
- Requiere habilidades de ingeniería de software además de las de modelado
- La latencia y el costo de inferencia se vuelven restricciones de diseño reales
Herramientas relacionadas
Librerías y plataformas más comunes para practicar este tema.
- Docker
- FastAPI
- Amazon SageMaker