Cargando

Introducción a la Generación Aumentada por Recuperación

Lección 342 min
Cargando

La Generación Aumentada por Recuperación (RAG, por sus siglas en inglés) es una técnica que te ayuda a trabajar con documentos grandes cuando usas Claude. En lugar de meter a la fuerza un informe financiero de 800 páginas en un solo prompt, RAG te permite encontrar e incluir de forma inteligente solo las secciones más relevantes para cada pregunta.

El Problema con los Documentos Grandes

Imagina que tienes un documento financiero enorme y quieres hacerle a Claude preguntas específicas sobre él, como "¿Qué factores de riesgo tiene esta empresa?" Te enfrentas a un desafío fundamental: ¿cómo llevas la información correcta del documento a Claude para que pueda responder tu pregunta de manera efectiva?

Un informe financiero privado de más de 800 páginas con secciones como Resumen Ejecutivo, Factores de Riesgo y Perspectivas Futuras.

Opción 1: Incluir Todo en el Prompt

El primer enfoque parece sencillo: extraer todo el texto del documento e incluirlo directamente en tu prompt junto con la pregunta del usuario.

Prompt que dice "Responde la pregunta del usuario sobre el documento financiero." con el informe completo entre etiquetas financial_document.

Este enfoque tiene varios problemas:

  • Hay un límite estricto en cuánto texto puede procesar Claude: tu documento podría ser demasiado largo
  • Claude se vuelve menos efectivo con prompts muy largos
  • Los prompts más grandes cuestan más dinero y tardan más en procesarse

Opción 2: Dividir los Documentos en Fragmentos

El segundo enfoque es más sofisticado. Divides el documento en fragmentos más pequeños durante un paso de preprocesamiento, y luego encuentras e incluyes solo los fragmentos relevantes para cada pregunta del usuario.

El informe financiero dividido en seis fragmentos como "Informe del Auditor", "Indicadores Clave de Desempeño" y "Datos de Mercado".

Así es como funciona: cuando un usuario pregunta "¿Qué riesgos enfrenta esta empresa?", buscas entre tus fragmentos para encontrar el que trata sobre "Factores de Riesgo" e incluyes solo esa sección en tu prompt a Claude.

La pregunta del usuario y solo los fragmentos relevantes de los seis van en un prompt con etiquetas user_question y financial_document.

Beneficios del Enfoque de Fragmentación

  • Claude puede enfocarse solo en el contenido más relevante
  • Escala hasta documentos muy grandes
  • Funciona con múltiples documentos
  • Los prompts más pequeños cuestan menos y se ejecutan más rápido

Desafíos con la Fragmentación

  • Requiere un paso de preprocesamiento para dividir los documentos
  • Se necesita un mecanismo de búsqueda para encontrar fragmentos "relevantes"
  • Los fragmentos incluidos podrían no contener todo el contexto que Claude necesita
  • Hay muchas maneras de fragmentar el texto: ¿cuál enfoque es el mejor?

Por ejemplo, si solo incluyes la sección de "Factores de Riesgo", podrías perderte contexto importante de la sección "Perspectivas de Estrategia" que aborda cómo la empresa planea manejar esos riesgos.

Esto es RAG

La Opción 2 es Generación Aumentada por Recuperación. A pesar de su complejidad, RAG ofrece ventajas significativas para trabajar con documentos grandes, pero viene con desafíos técnicos que requieren una consideración cuidadosa.

Los componentes clave de RAG son:

  • Preprocesamiento y fragmentación de documentos
  • Un mecanismo de búsqueda para encontrar fragmentos relevantes
  • Selección inteligente de qué fragmentos incluir en los prompts

Al considerar RAG para tu aplicación, necesitas evaluar si los beneficios superan la complejidad adicional para tu caso de uso específico. La técnica brilla cuando se trabaja con colecciones de documentos grandes donde necesitas respuestas precisas y contextuales, pero requiere más trabajo de ingeniería previo que simplemente incluir documentos completos en los prompts.