Doxa 2689

Promesa y peligro de un consejo de administración asistido por IA:
Oportunidades, riesgos legales y gobernanza algorítmica

Por: Oscar Hernando Benavides Paz, MBA

Palabras clave: inteligencia artificial; consejo de administración; gobernanza corporativa; captura epistémica; responsabilidad fiduciaria; gobernanza algorítmica; delegación; juicio humano.

1. Introducción

La integración de la inteligencia artificial (IA) en los consejos de administración constituye uno de los desarrollos más disruptivos —y menos comprendidos— en la gobernanza corporativa contemporánea. La promesa es seductora: la IA ofrece capacidades de procesamiento de información, análisis de riesgos y generación de perspectivas que podrían remediar deficiencias históricas del monitoreo board-level, tales como la asimetría informacional, la limitación temporal de los directores y la captura gerencial. Sin embargo, la evidencia académica emergente advierte que estas promesas coexisten con peligros sistémicos que van desde la “captura epistémica” y el “pensamiento de grupo algorítmico” hasta la erosión de la deliberación crítica, la opacidad decisional y la dilución de la responsabilidad fiduciaria.

La literatura reciente subraya una paradoja fundamental: la IA, diseñada para ampliar la racionalidad decisoria, puede terminar subvirtiendo las condiciones mismas del juicio independiente que se espera de un consejo. Ben-Shahar y colaboradores (2025) denominan captura epistémica al proceso mediante el cual el consejo cede su autoridad cognitiva a los outputs algorítmicos, percibidos como verdad objetiva, desplazando la deliberación humana y generando un pseudo-consenso impulsado por la deferencia a la máquina. A ello se suma un entramado jurídico que no fue diseñado para la delegación algorítmica: los marcos de responsabilidad fiduciaria, las safe harbours y las reglas de delegación operan en un entorno antropocéntrico que no contempla la intervención de sistemas autónomos en la toma de decisiones societarias.

Esta revisión de literatura tiene como propósito sintetizar la evidencia científica disponible sobre las oportunidades y los riesgos de un consejo de administración asistido por IA, con especial énfasis en las dimensiones legales, éticas y de gobernanza. Se han privilegiado fuentes primarias publicadas en revistas indexadas, series de working papers de centros de investigación en derecho y gobernanza corporativa, y contribuciones de organismos internacionales, con el fin de ofrecer un marco analítico riguroso y verificado.

2. Objetivos

Objetivo general: Analizar críticamente la literatura académica y los desarrollos normativos sobre la integración de la inteligencia artificial en los consejos de administración, identificando las promesas funcionales y los peligros sistémicos que de ella se derivan para la gobernanza corporativa.

Objetivos específicos:

• Sistematizar las oportunidades que la IA ofrece para superar las limitaciones estructurales del monitoreo board-level, incluyendo la reducción de asimetrías informacionales y la mejora de la capacidad analítica.
• Identificar y caracterizar los riesgos cognitivos, organizacionales y legales asociados a la asistencia algorítmica en la sala de juntas, con especial atención a la captura epistémica y al pensamiento de grupo algorítmico.
• Examinar la tensión entre la delegación de funciones decisorias en sistemas de IA y el mantenimiento de la responsabilidad fiduciaria y el juicio humano en los marcos jurídicos vigentes.
• Evaluar los marcos emergentes de gobernanza algorítmica —transparencia, explicabilidad, auditoría y supervisión humana— y su aplicabilidad al contexto del consejo de administración.

3. Metas

La presente revisión se plantea las siguientes metas académicas y prácticas:

• Proporcionar un estado del arte actualizado —hasta 2026— sobre la intersección entre IA y gobernanza corporativa, integrando perspectivas del derecho societario, la teoría organizacional y la ética algorítmica.
• Ofrecer un marco conceptual que permita a investigadores y reguladores distinguir entre asistencia algorítmica legítima y sustitución indebida del juicio directivo.
• Identificar vacíos de investigación y proponer agendas futuras que aborden empíricamente los efectos de la IA en la calidad de la deliberación board-level y en la atribución de responsabilidad.
• Derivar recomendaciones normativas e institucionales para el diseño de salvaguardas que preserven la independencia epistémica del consejo sin renunciar a los beneficios de la IA.

4. Desarrollo

4.1. La promesa: superación de las limitaciones históricas del monitoreo board-level

La literatura clásica en gobernanza corporativa ha identificado persistentes fallas institucionales que inhiben la efectividad del consejo como órgano de monitoreo. Eisenberg (1976) ya advertía sobre las restricciones de tiempo, información y composición que aquejan a los directorios, mientras que Gilson y Gordon caracterizaron a los directores bien intencionados como “escasamente informados, subdotados de recursos y limitadamente motivados”. En este contexto, la IA se presenta como una tecnología capaz de mitigar tales restricciones mediante la automatización de procesos rutinarios, la provisión de insights cognitivos y la ampliación de la capacidad de análisis.

La revisión sistemática de Ahdadou, Aajly y Tahrouch (2025) documenta que la IA puede reducir la asimetría informacional en el monitoreo, mejorar la gestión de riesgos, optimizar la nominación de directores, fortalecer la planificación estratégica y ampliar el involucramiento de los accionistas. Asimismo, evidencia empírica reciente sugiere que los directores perciben la IA como una tecnología de aumento que mejora la deliberación al mitigar limitaciones informacionales y cognitivas, aliviando las presiones de carga de trabajo que de otro modo conducirían a la desvinculación y al conformismo. El Foro Económico Mundial (2026) añade que, utilizada en tiempo real durante las reuniones, la IA puede identificar riesgos desatendidos, destacar desarrollos regulatorios relevantes y cuestionar supuestos que contradicen la evidencia histórica.

El caso de International Holding Company (IHC), el mayor conglomerado listado de los Emiratos Árabes Unidos, ilustra el potencial transformador: en 2025 introdujo un escaño board no votante impulsado por IA, denominado Aiden Insight, respaldado por Microsoft, que analiza datos y proporciona asesoramiento en tiempo real sobre evaluación de riesgos, monitoreo de cumplimiento y cuestiones estratégicas. Experiencias como esta evidencian que la promesa de la IA no es meramente especulativa, sino que ya se está materializando en estructuras de gobernanza concretas.

4.2. El peligro: captura epistémica, pensamiento de grupo algorítmico y erosión de la deliberación

Frente al optimismo predominante, una línea de investigación crítica advierte que la integración de la IA en los consejos puede socavar las condiciones mismas de la supervisión efectiva. Ben-Shahar, Carmeli, Sulganik y Weiss (2025) teorizan una paradoja según la cual el uso de IA en los consejos erosiona tres vías esenciales para la reducción del sesgo decisorio: la heterogeneidad informacional, la elaboración informacional y el consenso de elección. El mecanismo explicativo es la captura epistémica: el consejo cede su autoridad de conocimiento a los outputs de la IA, que al ser percibidos como verdad objetiva desplazan la deliberación humana crítica y fomentan un pensamiento de grupo algorítmico —un falso consenso impulsado por la deferencia al algoritmo—, inhibiendo la sinergia decisoria del board.

Esta dinámica se ve reforzada por el fenómeno de la “rendición cognitiva” (cognitive surrender), definido como la aceptación pasiva del output de la IA sin aplicar el pensamiento crítico propio. La sobredependencia de la IA también puede generar homogeneidad en el análisis del consejo, negando la diversidad de experiencias que los directores humanos aportan. En términos organizacionales, la IA puede desplazar la deliberación crítica y sustituirla por una deferencia algorítmica que, paradójicamente, reduce la calidad de la supervisión al eliminar los desacuerdos productivos y la confrontación de perspectivas que caracterizan a los consejos eficaces.

La literatura jurídica complementa este diagnóstico al señalar que la IA genera nuevos riesgos derivados de la opacidad, el sesgo de automatización y la disminución de la supervisión humana. Se configura una “paradoja de la transparencia”: aunque la IA promete mayor claridad informacional, los sistemas opacos dificultan que los directores comprendan y interroguen significativamente las bases de las recomendaciones algorítmicas. A ello se suma el problema del antropomorfismo, mediante el cual la atribución de agencia a la IA oscurece la responsabilidad humana.

4.3. La tensión legal: delegación algorítmica, deberes fiduciarios y accountability

El marco jurídico de la gobernanza corporativa continúa siendo profundamente antropocéntrico. En la mayoría de las jurisdicciones europeas no es legalmente posible transferir la autoridad de gestión a sistemas de IA; la autoridad decisoria última y las funciones nucleares de administración deben permanecer en órganos humanos. En consecuencia, la IA no puede formalmente servir como miembro del consejo, aunque sí puede actuar como observador sin derecho a voto, como herramienta de apoyo a la decisión o como instrumento analítico. Esta restricción refleja la convicción normativa de que el juicio humano y la responsabilidad fiduciaria son irreductibles a la lógica algorítmica.

Sin embargo, la frontera entre asistencia y sustitución es crecientemente porosa. La doctrina alemana, a partir de la sentencia ISION del Tribunal Federal de Justicia (BGH), ha desarrollado principios —selección cuidadosa, asignación clara, revisión de plausibilidad y evaluación independiente— que ahora se aplican analógicamente a los insumos de IA, aunque con adaptaciones derivadas de la naturaleza de “caja negra” de estos sistemas. Más aún, comienza a sostenerse que, a medida que la IA se estandariza en ciertos sectores, la mera no utilización podría constituir un incumplimiento de los deberes corporativos si ello conduce a decisiones basadas en información o análisis inferiores.

En el plano de la responsabilidad, Petrin (2026) advierte que los daños relacionados con la IA a terceros pueden desencadenar responsabilidad corporativa, pero también reclamaciones directas y derivativas contra directores y altos ejecutivos, transmitiendo riesgos externos hacia el interior del board y la alta dirección. Los regímenes de responsabilidad que exigen conocimiento o intención se vuelven vulnerables cuando la IA genera resultados dañinos sin que ningún actor humano o corporativo posea el estado mental requerido, creando brechas de accountability. Los detalles de los deberes fiduciarios de los directores en materia de IA permanecen sin resolver, aunque los contornos de la responsabilidad corporativa externa por daños algorítmicos pueden ayudar a perfilarlos.

La literatura sobre supervisión board-level enfatiza que el uso de IA en la sala de juntas debe ser consistente con los deberes fiduciarios y de conducta. Las disposiciones legales de puerto seguro (safe harbour) y las reglas de confianza y delegación operan en un entorno humano-céntrico y no contemplan el uso de IA. El énfasis en la accountability es particularmente importante cuando los tribunales consideran si atribuir responsabilidad directamente a una corporación, ya sea a través de sistemas adoptados o mediante decisiones grupales. Se configura así un “vacío de gobernanza de IA” (AI governance gap) que exige una adaptación urgente de los deberes de los directores a la toma de decisiones algorítmica.

4.4. Hacia una gobernanza algorítmica del consejo: transparencia, explicabilidad y supervisión humana

La respuesta normativa a estos desafíos se articula en torno a lo que la literatura denomina gobernanza algorítmica. O’Malley y Underwood (2026) sostienen que mantener la legitimidad en la era de la IA requiere un renovado énfasis en el juicio humano, la supervisión a nivel de board y marcos de gobernanza adaptativos capaces de reconciliar el poder tecnológico con la accountability legal y las expectativas sociales. El desafío que plantea la toma de decisiones algorítmica no es primordialmente de cumplimiento o competencia técnica, sino de justificación: la deferencia fiduciaria sigue siendo normativamente defendible solo cuando las herramientas algorítmicas median, en lugar de sustituir, el juicio humano.

El Foro Económico Mundial (2026) ha propuesto un marco de gobernanza para la IA agéntica que parte de un diagnóstico lúcido: el riesgo real no reside en el comportamiento del sistema, sino en cómo los consejos definen la frontera de la delegación. Gobernar sistemas de confianza exige que el board abandone la fantasía del control omnicomprensivo y asuma una nueva misión: construir arquitecturas de restricción (constraint architectures) que delimiten con precisión qué decisiones pueden ser asistidas, aumentadas o delegadas. La transparencia y la explicabilidad emergen como pilares de un marco de cuatro pilares para la gobernanza algorítmica, junto con la equidad y el control.

En el plano de la supervisión interna, se ha propuesto que la supervisión de IA resida en el comité de riesgos del board más que en el comité de tecnología, y que los consejos aprueben políticas claras de uso de IA que incluyan protocolos de seguridad, requisitos de cumplimiento y salvaguardas de confidencialidad. La literatura sobre la función de monitoreo del board en la era de la accountability intensificada aboga por refinar el enfoque de “humano en el bucle” (human-in-the-loop), asegurando que la IA opere como un instrumento al servicio de la deliberación y no como un sustituto de ella.

Finalmente, la investigación de Ben-Shahar et al. (2025) propone un principio de gobernanza novedoso: la independencia epistémica. Según este principio, los consejos deben cultivar activamente el análisis divergente —por ejemplo, mediante sistemas de “IA abogado del diablo” (Devil’s Advocate AI)— para resistir la convergencia prematura en torno a los outputs algorítmicos y preservar la función de supervisión independiente. Este tipo de salvaguardas institucionales, junto con la formación de los directores en los riesgos y limitaciones de la IA, constituyen condiciones necesarias para que la asistencia algorítmica fortalezca —y no subvierta— la calidad de la gobernanza corporativa.

5. Conclusiones

La evidencia científica disponible permite afirmar que un consejo de administración asistido por IA es, simultáneamente, una promesa y un peligro. La promesa se sustenta en la capacidad de la tecnología para superar limitaciones históricas del monitoreo board-level, reducir asimetrías informacionales y ampliar la capacidad analítica de los directores. El peligro reside en la posibilidad de que esa misma tecnología erosione las condiciones cognitivas y deliberativas que hacen posible un juicio independiente y responsable, dando lugar a fenómenos de captura epistémica, pensamiento de grupo algorítmico y rendición cognitiva.

El marco jurídico vigente no está preparado para esta transformación. Los deberes fiduciarios, las reglas de delegación y los regímenes de responsabilidad fueron diseñados para agentes humanos y ofrecen una guía limitada cuando los directores se apoyan en insights generados por IA o cuando los sistemas algorítmicos impulsan funciones corporativas nucleares. La tensión entre la prohibición legal de delegar la autoridad de gestión en sistemas de IA y la creciente expectativa de que los consejos utilicen estas herramientas constituye uno de los nudos normativos más apremiantes de la gobernanza corporativa contemporánea.

La conclusión central de esta revisión es que la gobernanza algorítmica del consejo no puede reducirse a una cuestión de adopción tecnológica. Se trata, fundamentalmente, de una cuestión de diseño institucional y de arquitectura de responsabilidad. La IA debe ser integrada como un instrumento que media el juicio humano, no que lo sustituye; debe estar sujeta a marcos de transparencia, explicabilidad y auditoría; y debe operar dentro de arquitecturas de restricción que delimiten con precisión las fronteras de la delegación. Como advierte Srinivasan, “la IA hará mejores a los buenos consejos y peores a los malos”. La calidad previa de la gobernanza corporativa determinará si la tecnología amplifica las virtudes o los vicios del board.

6. Retos

La literatura identifica una serie de retos abiertos que configuran la agenda de investigación y regulación futura:

• Reto de la atribución de responsabilidad: Los regímenes de responsabilidad basados en el conocimiento o la intención humana resultan inadecuados cuando la IA genera daños sin que exista un estado mental humano correspondiente. Persisten brechas de accountability que exigen nuevos modelos de atribución, posiblemente orientados hacia una responsabilidad corporativa despersonalizada y centrada en la entidad.
• Reto de la adaptación de los deberes fiduciarios: Los contornos de los deberes fiduciarios de los directores en materia de IA permanecen sin resolver. Se requiere clarificar si la no utilización de IA puede constituir un incumplimiento del deber de cuidado, y cómo aplicar principios como el Business Judgment Rule a decisiones mediadas por sistemas opacos.
• Reto de la preservación de la independencia epistémica: Diseñar salvaguardas institucionales —como sistemas de IA que fomenten el disenso y la divergencia analítica— para contrarrestar la captura epistémica y el pensamiento de grupo algorítmico sin renunciar a los beneficios de la asistencia algorítmica.
• Reto de la transparencia y la explicabilidad: Superar la “paradoja de la transparencia” mediante el desarrollo de explicaciones que permitan a los directores conectar los outputs de la IA con su propio conocimiento y sus deberes legales, más allá de meras reconstrucciones técnicas de la lógica algorítmica.
• Reto de la gobernanza de la IA agéntica: A medida que los sistemas de IA adquieren mayor autonomía, los consejos deben definir con precisión las fronteras de la delegación y construir arquitecturas de restricción que impidan que la IA sustituya indebidamente el juicio humano en decisiones nucleares.
• Reto de la evidencia empírica: La mayoría de los estudios existentes son teóricos o basados en casos. Se requieren investigaciones empíricas longitudinales que midan los efectos de la IA en la calidad de la deliberación board-level, en la diversidad cognitiva de los consejos y en los resultados de gobernanza a largo plazo.

7. Referencias

• Ahdadou, M., Aajly, A., & Tahrouch, M. (2025). Enhancing corporate governance through AI: A systematic literature review. Technology Analysis & Strategic Management. https://doi.org/10.1080/09537325.2024.2326120
• Ben-Shahar, D., Carmeli, A., Sulganik, E., & Weiss, D. (2025). Artificial intelligence transforms board decision-making processes: An extension of the information-processing model of board decision synergy. AI & Society. https://doi.org/10.1007/s00146-025-02773-1
• Freshfields. (2026, 2 de marzo). AI, boardrooms and the law: Delegation, ownership and human judgment. https://www.freshfields.com/en/our-thinking/blogs/technology-quotient/ai-boardrooms-and-the-law-delegation-ownership-and-human-judgment-102mioo
• Harvard Business Review. (2026, 6 de noviembre). The promise—and peril—of an AI-assisted board. https://hbr.org/2026/11/the-promise-and-peril-of-an-ai-assisted-board
• O’Malley, P. J., & Underwood, P. (2026). Reimagining corporate governance in the AI era: Law, legitimacy and algorithmic power. Cambridge Forum on AI: Law and Governance. https://doi.org/10.1017/cfl.2026.10012
• Petrin, M. (2026). AI accountability from the outside in: Corporate liability, AI governance, and managerial duties (ECGI Law Working Paper N° 935/2026). European Corporate Governance Institute. https://ecgi.global/content/working-papers
• Rethinking Board Oversight: The Puzzle of AI Use in Corporate Governance and the Law. (2025, 5 de noviembre). ECGI Blog. https://www.ecgi.global/publications/blog/rethinking-board-oversight-the-puzzle-of-ai-use-in-corporate-governance-and-the
• Stanford Law School. (2026, 8 de mayo). No. 135: Fiduciary duties and business judgment rule 2.0 in the EU AI Act age. https://law.stanford.edu
• The Board Monitoring Function: Artificial Intelligence in the Era of Heightened Accountability. (2026, 23 de julio). ECGI. https://www.ecgi.global
• World Economic Forum. (2026, 14 de octubre). From systems of record to systems of trust: A board-level playbook for governing agentic AI. https://www.weforum.org
• World Economic Forum. (2026, 5 de agosto). The hybrid boardroom: How AI is changing the role of directors. https://www.weforum.org