Despliegue de Modelos (Model Serving)

Convertir un modelo entrenado en un servicio que otras aplicaciones puedan consumir de forma confiable.

ÁreaMLOps y Modelos en Producción
DificultadAvanzado
Tiempo de aprendizaje4-6 semanas

¿Qué puedes lograr dominando este tema?

  • Exponer un modelo entrenado como un endpoint de API que otros sistemas pueden llamar
  • Elegir entre inferencia en batch, en tiempo real o en el dispositivo (edge)
  • Empaquetar un modelo con sus dependencias para que corra igual en cualquier entorno

Descripción

El despliegue de modelos cubre todo lo necesario para que un modelo entrenado deje de ser un archivo en un notebook y se convierta en un servicio confiable: empaquetarlo, exponerlo como API, optimizarlo para latencia y escalarlo según la demanda.

Casos de uso

  • Exposición de modelos como endpoints de API en producción
  • Inferencia en batch sobre grandes volúmenes de datos periódicamente
  • Despliegue de modelos en dispositivos móviles o edge
  • Integración de modelos de ML dentro de aplicaciones existentes

Ejemplo práctico

Ejemplo prácticopython
from fastapi import FastAPI
import joblib

app = FastAPI()
modelo = joblib.load("modelo.pkl")

@app.post("/predecir")
def predecir(datos: dict):
    return {"prediccion": modelo.predict([list(datos.values())]).tolist()}

Ventajas y limitaciones

Ventajas

  • Convierte el trabajo de ciencia de datos en valor de negocio real y usable
  • Existen patrones y herramientas maduras (Docker, Kubernetes, servicios cloud)
  • Permite escalar el uso de un modelo a millones de peticiones

Limitaciones

  • Requiere habilidades de ingeniería de software además de las de modelado
  • La latencia y el costo de inferencia se vuelven restricciones de diseño reales

Herramientas relacionadas

Librerías y plataformas más comunes para practicar este tema.

  • Docker
  • FastAPI
  • Amazon SageMaker

Temas relacionados

Fichas de herramientas