Generación aumentada por recuperación (RAG)

Combinar un recuperador sobre documentos o herramientas con un LLM generador para que las respuestas puedan citar contexto más actualizado o privado.

RAG recupera fragmentos relevantes de un índice, base de datos vectorial o corpus y condiciona la decodificación del LLM con ese contexto en tuberías de NLP, reduciendo la dependencia exclusiva del conocimiento paramétrico memorizado.

Compensaciones: calidad de la recuperación, latencia, ajuste al prompt, atribución e inyección de prompts indirecta en textos recuperados; el anclaje aún necesita revisión humana para hechos de alto riesgo.