Alucinación
Cuando la IA responde con confianza lo que no sabe.
Una alucinación ocurre cuando un LLM genera información falsa, inexacta o inventada con el mismo tono de certeza con que genera información correcta. El modelo no sabe que está equivocado — y no te avisa. Cita artículos que no existen, jurisprudencia inventada, cifras incorrectas, nombres falsos.
Imagina un colaborador que nunca dice 'no sé'. Siempre tiene una respuesta, siempre suena seguro — pero a veces se la está inventando. En una conversación casual es inofensivo. En un contrato legal o una decisión financiera, es una bomba de tiempo.
El riesgo no es que la IA alucine — es que lo haga en el momento equivocado y nadie lo detecte. Un directivo que usa outputs de IA sin validación arquitectónica está firmando documentos que no revisó. La alucinación no avisa. La gobernanza sí.
RAG, fine-tuning y Human-on-the-Loop son las tres capas que VDA usa para contener la alucinación. No se elimina completamente — se gestiona. La diferencia entre un despliegue de IA responsable y uno irresponsable es exactamente esa arquitectura de contención.