Natural Language Processing with Transformers
Cómo usar y afinar modelos de lenguaje modernos, escrito por el equipo de Hugging Face.
ÁreaNLP y Modelos de Lenguaje
TemaNLP
NivelIntermedio
Publicación2022
Autor(es): Lewis Tunstall, Leandro von Werra, Thomas Wolf
¿Qué puedes lograr leyendo este libro?
- Usar y hacer fine-tuning de modelos Transformer para tareas reales de NLP con la librería Hugging Face
- Entender el mecanismo de atención sin necesitar derivar cada ecuación desde cero
- Construir pipelines completos de NLP moderno: desde tokenización hasta despliegue
Descripción
Escrito por miembros del equipo central de Hugging Face, este libro enseña a usar y adaptar modelos Transformer modernos (BERT, GPT y sucesores) para tareas prácticas de NLP, con un enfoque directo en código funcional sobre la librería más usada del ecosistema.
Para quién es ideal
- Quien ya tiene bases de deep learning y quiere aplicar Transformers directamente
- Practicantes que necesitan resultados rápidos con modelos preentrenados
- Complemento práctico al rigor teórico de Speech and Language Processing
- Preparación directa para trabajar con LLMs en un rol profesional
Contenido destacado
- Arquitectura Transformer explicada con enfoque práctico
- Tokenización y preprocesamiento de texto moderno
- Fine-tuning de modelos preentrenados para clasificación y NER
- Modelos de generación de texto y resumen
- Optimización, despliegue y consideraciones de producción
Ventajas y limitaciones
Ventajas
- Escrito directamente por el equipo que construye la librería más usada del ecosistema
- Extremadamente actualizado y práctico frente al ritmo de cambio del campo
- Código funcional listo para adaptar a proyectos propios
Limitaciones
- Menos rigor teórico que Speech and Language Processing para quien busca fundamentos profundos
- Un campo que avanza tan rápido implica que partes ya se sienten desactualizadas