Fundamentación
Relación entre una salida de IA y la evidencia suministrada, de modo que cada afirmación material debe estar respaldada por el contexto o los hechos disponibles.
Ejemplo en una empresa
Un asistente responde sobre gastos usando la política de viajes vigente y vincula cada límite con su cláusula. Una afirmación ausente en esa política se considera no fundamentada.
Cómo funciona
- 1.Recupera o suministra los fragmentos de referencia permitidos para la persona y la pregunta.
- 2.Separa la respuesta en afirmaciones fácticas que requieren respaldo.
- 3.Comprueba si cada afirmación se deriva de uno o varios fragmentos de referencia.
- 4.Devuelve citas, señales de respaldo o una negativa cuando falta evidencia.
- 5.Evalúa relevancia y completitud por separado, porque una respuesta fundamentada puede no resolver la pregunta.
Ideas equivocadas
Conceptos relacionados
Lecturas relacionadas
Fuentes
- https://docs.cloud.google.com/generative-ai-app-builder/docs/check-grounding?hl=en
- https://learn.microsoft.com/en-in/azure/foundry/concepts/evaluation-evaluators/rag-evaluators?view=foundry
- https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails-contextual-grounding-check.html
Revisado:
Revisado por: Javier Chulvi Bernad · LLM Engineer · Madrid