Alucinación de IA

Ejemplo en una empresa

Un asistente inventa la fecha de renovación de un contrato en vez de indicar que no aparece en los documentos conectados.

Cómo funciona

1. 1.El modelo predice lenguaje plausible.
2. 2.Un contexto ausente o ambiguo aumenta la incertidumbre.
3. 3.El grounding, las citas y la abstención reducen el riesgo empresarial.

Ideas equivocadas

Conceptos relacionados

Lecturas relacionadas

Fuentes

• https://www.nist.gov/itl/ai-risk-management-framework