Delegación Indebida
Cuando la máquina decide donde solo un humano puede responder.
El error de transferir a un sistema algorítmico decisiones estratégicas, fiduciarias o éticamente sensibles para las que el algoritmo no tiene responsabilidad legal. La máquina ejecuta; el directivo firma. Cuando esa cadena se rompe —el algoritmo "decide solo" en terreno crítico y nadie responde— ocurre la delegación indebida.
Un piloto automático vuela el avión durante horas, pero ningún regulador permite que despegue, aterrice o declare una emergencia sin un comandante que responda por la nave. Delegar esas decisiones al sistema no es eficiencia: es dejar el mando sin nadie a quien rendir cuentas.
Es el riesgo que el Shadow AI facilita en silencio y que un LOA mal calibrado convierte en rutina. El día que un crédito se niega, un diagnóstico se emite o un contrato se aprueba "porque el sistema lo decidió", la empresa descubre que la responsabilidad legal no se delega — solo se abandona.
La doctrina Human-First de VDA existe para impedir exactamente esto. Cada arquitectura define qué decisiones el agente jamás puede firmar solo, sin importar su nivel de autonomía. El agente recomienda la orden quirúrgica o la facturación a la EPS; la firma —y la responsabilidad— se queda en el humano.