Recuperación Aumentada por Generación (RAG)
Combinar un modelo de lenguaje con una base de conocimiento externa para respuestas más precisas y verificables.
ÁreaProcesamiento de Lenguaje Natural
DificultadAvanzado
Tiempo de aprendizaje4-6 semanas
¿Qué puedes lograr dominando este tema?
- Reducir las alucinaciones de un LLM anclándolo a documentos reales y verificables
- Construir un sistema de búsqueda semántica sobre documentos propios
- Mantener las respuestas de un asistente actualizadas sin reentrenar el modelo
Descripción
RAG combina un LLM con un sistema de recuperación de información: en vez de confiar solo en lo que el modelo memorizó durante el entrenamiento, primero busca documentos relevantes en una base de conocimiento externa (típicamente vía embeddings y una base de datos vectorial) y los usa como contexto para generar la respuesta.
Casos de uso
- Asistentes que responden preguntas sobre documentación interna de una empresa
- Chatbots de soporte al cliente anclados a manuales y políticas reales
- Sistemas de búsqueda semántica sobre bases de conocimiento grandes
- Reducción de alucinaciones en dominios donde la precisión es crítica
Ejemplo práctico
resultados = base_vectorial.similarity_search(pregunta, k=3)
contexto = "\n".join(r.page_content for r in resultados)
prompt = f"Contexto:\n{contexto}\n\nPregunta: {pregunta}"Ventajas y limitaciones
Ventajas
- Reduce alucinaciones anclando el modelo a fuentes verificables
- No requiere reentrenar el modelo para actualizar el conocimiento
- Permite citar fuentes específicas de la respuesta generada
Limitaciones
- La calidad depende totalmente de la calidad de la recuperación (retrieval)
- Añade complejidad de infraestructura (bases de datos vectoriales, pipelines)
Herramientas relacionadas
Librerías y plataformas más comunes para practicar este tema.
- LangChain
- Pinecone
- Hugging Face Transformers