Explicabilidad
La capacidad de un agente de justificar POR QUÉ llegó a una decisión — en términos que un humano pueda entender, auditar y defender.
La explicabilidad es la propiedad de un sistema de IA que permite entender el razonamiento detrás de una decisión específica: qué factores pesaron, qué evidencia usó, qué reglas aplicó. No es ver qué hace el agente (eso es Observabilidad) ni qué hizo (eso es el Audit Trail), sino por qué decidió lo que decidió. En decisiones de alto impacto — un crédito negado, un diagnóstico sugerido, una alerta de fraude — la explicabilidad es lo que separa una decisión defendible de una caja negra.
Un buen médico no solo dice "no te opero" — explica por qué: estos exámenes, este riesgo, esta alternativa. Un médico que decide sin poder explicar su criterio no inspira confianza, inspira demanda. La explicabilidad es la historia clínica del razonamiento del agente: la justificación que convierte una decisión en una decisión defendible.
Un agente que decide pero no explica es legal y éticamente inadmisible en cualquier decisión que afecte a una persona. El cliente al que le niegan un crédito tiene derecho a saber por qué; el regulador, a verificar que no hubo sesgo; la empresa, a defender la decisión. Sin explicabilidad, la organización no puede demostrar que su IA es justa — solo puede pedir que le crean.
VDA diseña los agentes para que cada decisión de alto impacto venga con su explicación — no como un reporte aparte, sino como parte de la decisión misma. La explicabilidad no es transparencia decorativa: es el requisito que vuelve la autonomía confiable ante el cliente, defendible ante el regulador y corregible ante el error.