Polp
← Volver al glosario
Modelos de lenguaje

Ventana de contexto

Cantidad limitada de información que un modelo de IA puede consultar al generar una respuesta, medida en tokens y compartida entre instrucciones, conversación, evidencias recuperadas y salida.

Ejemplo en una empresa

Una persona pregunta por una excepción de vacaciones escondida entre cientos de páginas de políticas. En lugar de enviar toda la biblioteca al modelo, el sistema recupera los fragmentos permitidos, los coloca en la ventana de contexto y enlaza la respuesta con esas fuentes.

Cómo funciona

  1. 1.El sistema convierte instrucciones, mensajes, documentos y resultados de herramientas en tokens.
  2. 2.Esos tokens ocupan el contexto disponible junto con la respuesta que el modelo va a generar.
  3. 3.Si el material útil supera la ventana, la aplicación debe seleccionar, recuperar, resumir, almacenar en caché o retirar información.
  4. 4.Una ventana mayor admite más contenido, pero no garantiza que cada detalle se encuentre o se utilice correctamente.
  5. 5.Por eso los asistentes empresariales combinan el límite de contexto con recuperación, permisos, priorización de fuentes y citas.

Ideas equivocadas

Una ventana grande significa que el modelo recuerda de forma permanente el conocimiento de la empresa.
La ventana es contexto de trabajo temporal para una solicitud. El conocimiento duradero sigue necesitando fuentes mantenidas, recuperación y control de acceso.
Añadir más contexto siempre mejora la respuesta.
El material adicional puede aumentar coste y latencia, además de introducir evidencias que distraen. La selección y la evaluación siguen siendo necesarias.

Conceptos relacionados

Generación aumentada por recuperación (RAG)ChunkingFundamentaciónEmbeddingsBase de datos vectorial

Lecturas relacionadas

RAG no es subir PDFs: permisos, frescura, trazabilidad y fuentes fiables
Cómo evaluar una búsqueda interna con IA: lista de 15 preguntas

Fuentes

Revisado:

Revisado por: Javier Chulvi Bernad · LLM Engineer · Madrid