Natural Language Processing with Transformers

Cómo usar y afinar modelos de lenguaje modernos, escrito por el equipo de Hugging Face.

ÁreaNLP y Modelos de Lenguaje
TemaNLP
NivelIntermedio
Publicación2022

Autor(es): Lewis Tunstall, Leandro von Werra, Thomas Wolf

¿Qué puedes lograr leyendo este libro?

  • Usar y hacer fine-tuning de modelos Transformer para tareas reales de NLP con la librería Hugging Face
  • Entender el mecanismo de atención sin necesitar derivar cada ecuación desde cero
  • Construir pipelines completos de NLP moderno: desde tokenización hasta despliegue

Descripción

Escrito por miembros del equipo central de Hugging Face, este libro enseña a usar y adaptar modelos Transformer modernos (BERT, GPT y sucesores) para tareas prácticas de NLP, con un enfoque directo en código funcional sobre la librería más usada del ecosistema.

Para quién es ideal

  • Quien ya tiene bases de deep learning y quiere aplicar Transformers directamente
  • Practicantes que necesitan resultados rápidos con modelos preentrenados
  • Complemento práctico al rigor teórico de Speech and Language Processing
  • Preparación directa para trabajar con LLMs en un rol profesional

Contenido destacado

  • Arquitectura Transformer explicada con enfoque práctico
  • Tokenización y preprocesamiento de texto moderno
  • Fine-tuning de modelos preentrenados para clasificación y NER
  • Modelos de generación de texto y resumen
  • Optimización, despliegue y consideraciones de producción

Ventajas y limitaciones

Ventajas

  • Escrito directamente por el equipo que construye la librería más usada del ecosistema
  • Extremadamente actualizado y práctico frente al ritmo de cambio del campo
  • Código funcional listo para adaptar a proyectos propios

Limitaciones

  • Menos rigor teórico que Speech and Language Processing para quien busca fundamentos profundos
  • Un campo que avanza tan rápido implica que partes ya se sienten desactualizadas

Libros relacionados