CatBoost

Gradient boosting con manejo nativo de variables categóricas.

CategoríaMachine Learning
DificultadIntermedio
Tiempo de aprendizaje2-3 semanas
Official documentation

¿Qué puedes lograr con esta herramienta?

Los resultados prácticos que desbloquea.

  • Usar variables categóricas directamente sin one-hot encoding manual
  • Obtener buenos resultados con configuración por defecto (menos tuning)
  • Reducir el sobreajuste típico del boosting mediante ordered boosting

Descripción

CatBoost, desarrollado por Yandex, se especializa en el manejo automático y estadísticamente robusto de variables categóricas, además de usar ordered boosting para reducir el sobreajuste. Suele requerir menos tuning manual que XGBoost o LightGBM.

Casos de uso

  • Datasets con muchas variables categóricas de alta cardinalidad
  • Modelos de scoring en banca y seguros
  • Sistemas de recomendación
  • Prototipado rápido con buenos resultados por defecto

Instalación

Instalarbash
pip install catboost

Ejemplo básico

Ejemplo básicopython
from catboost import CatBoostClassifier

model = CatBoostClassifier(iterations=300, cat_features=["region"])
model.fit(X_train, y_train)
print(model.score(X_test, y_test))

Ventajas y limitaciones

Ventajas

  • Manejo nativo y robusto de variables categóricas
  • Buenos resultados con poco tuning
  • Ordered boosting reduce el sobreajuste

Limitaciones

  • Entrenamiento puede ser más lento que LightGBM en datasets muy grandes
  • Comunidad más pequeña que XGBoost

Alternativas

Herramientas que resuelven un problema parecido de otra forma.