El aumento de la regulación, el uso creciente de la inteligencia artificial y las nuevas cuestiones de responsabilidad elevan para los consejos de administración y la dirección ejecutiva la importancia de estructuras claras de gobernanza en el uso de sistemas de IA. Dr. Raphael Nagel (LL.M.), Founding Partner de Tactical Management, describe en su análisis más reciente la responsabilidad por IA como un tema estratégico de liderazgo que va mucho más allá de cuestiones técnicas.

Las empresas integran cada vez más la inteligencia artificial en procesos como atención al cliente, decisiones de personal, compliance, producción, análisis de riesgos y tratamiento de datos. Con los beneficios económicos también aumentan las exigencias de transparencia, mecanismos de control y asignación de responsabilidades. Decisiones erróneas de sistemas automatizados, infracciones de protección de datos o resultados discriminatorios pueden generar consecuencias legales y reputacionales relevantes.

“Quien utiliza IA no delega la responsabilidad al software”, explica Dr. Raphael Nagel (LL.M.). La responsabilidad final sobre organización, selección y supervisión sigue correspondiendo a los órganos competentes de la empresa.

El tema adquiere especial relevancia por el AI Act europeo, así como por obligaciones ya existentes en materia de protección de datos, responsabilidad por productos y derecho societario. Las empresas deben comprender qué sistemas utilizan, cómo se generan las decisiones y qué riesgos pueden surgir. En aplicaciones de alto riesgo aumentan las exigencias de documentación, supervisión humana y controles internos.

Para los consejos y la dirección ejecutiva esto implica nuevas obligaciones de gestión. La IA no debe tratarse como un proyecto aislado de TI. Se requieren responsabilidades definidas, procesos de aprobación, evaluaciones de riesgo, formación y supervisión continua de los sistemas implementados. También los proveedores externos y el software de terceros deben integrarse en la gobernanza corporativa.

“La responsabilidad suele surgir no por la tecnología en sí, sino por falta de supervisión”, señala Dr. Raphael Nagel (LL.M.). Lo decisivo es si la empresa identifica los riesgos a tiempo y los controla de forma organizativa.

También inversores, órganos de supervisión y aseguradoras observan cada vez más cómo se gestiona la IA dentro de las empresas. Una gobernanza sólida puede convertirse en una ventaja competitiva, mientras que responsabilidades poco claras pueden afectar el valor empresarial.

De cara a los próximos años, la responsabilidad por IA podría convertirse en una parte fija de la gobernanza corporativa moderna. Quien quiera aprovechar la inteligencia artificial de forma productiva también deberá controlarla jurídica y organizativamente.

El análisis completo de Dr. Raphael Nagel (LL.M.) está disponible en:
https://www.raphaelnagel.com/de-ki-haftung-vorstand-geschaeftsfuehrung/