Un Marco para Determinar Cuándo la Inteligencia Artificial Puede Tomar Decisiones:
Dimensiones de Ambigüedad, Riesgo y Supervisión Humana
Por: Oscar Hernando Benavides Paz, MBA
Introducción
La determinación de los límites apropiados para la autonomía de los sistemas de inteligencia artificial en la toma de decisiones organizacionales constituye uno de los desafíos más apremiantes de la era digital. A medida que las capacidades de la IA generativa y los agentes autónomos se expanden aceleradamente, las organizaciones enfrentan una pregunta fundamental: ¿qué decisiones pueden delegarse de manera segura a sistemas automatizados y cuáles requieren inevitablemente la intervención del juicio humano? Esta interrogante adquiere particular urgencia en contextos donde las decisiones algorítmicas pueden producir consecuencias significativas —financieras, operativas, reputacionales o incluso humanas— sin que exista un marco sistemático que guíe la asignación de derechos de decisión.
La investigación contemporánea ha comenzado a abordar esta problemática desde múltiples perspectivas. Investigadores del MIT Center for Information Systems Research han propuesto una matriz que evalúa las decisiones según dos dimensiones críticas: ambigüedad y riesgo, permitiendo clasificar las decisiones en rutinarias, consecuenciales, exploratorias y estratégicas, cada una con implicaciones distintas para la automatización y la supervisión humana . Paralelamente, el trabajo de RAND Corporation ofrece un marco que evalúa tareas cognitivas según su criticidad, precisión alcanzable, novedad y observabilidad, recomendando estrategias que oscilan entre la asistencia humana (human-in-the-loop) y la autonomía con supervisión (human-on-the-loop) .
Sin embargo, la literatura existente permanece fragmentada entre disciplinas y frecuentemente carece de integración con marcos regulatorios concretos. La evidencia empírica sugiere que una proporción significativa de organizaciones con despliegues reales de IA agéntica —más de la mitad según investigación de 2026— carece de políticas específicas que definan qué decisiones pueden tomar los agentes sin aprobación humana . Esta brecha entre capacidad técnica y gobernanza efectiva configura un riesgo sistémico que demanda atención urgente.
La presente revisión de literatura sintetiza la evidencia científica disponible sobre marcos para determinar cuándo la IA puede tomar decisiones de manera autónoma. El análisis integra contribuciones de ciencias de la información, ingeniería de sistemas, derecho corporativo y ética aplicada, con el objetivo de identificar principios convergentes, lagunas de conocimiento y direcciones para investigación futura.
Objetivos
Objetivo General: Sintetizar y evaluar críticamente la evidencia científica disponible sobre marcos conceptuales y metodológicos que permiten determinar cuándo la inteligencia artificial puede tomar decisiones de manera autónoma, identificando dimensiones clave, umbrales de supervisión y desafíos de implementación.
Objetivos Específicos:
1. Identificar y comparar las dimensiones fundamentales propuestas en la literatura para evaluar la idoneidad de la autonomía de la IA en decisiones específicas.
2. Examinar los niveles de autonomía y sus correspondientes requisitos de supervisión humana en contextos organizacionales.
3. Analizar los fundamentos legales y regulatorios que limitan o condicionan la delegación de decisiones a sistemas de IA.
4. Evaluar la evidencia empírica sobre implementaciones reales de marcos de decisión en entornos organizacionales.
5. Identificar lagunas de investigación y proponer direcciones para el desarrollo de marcos integrados.
Metas
Esta revisión aspira a proporcionar a investigadores, líderes organizacionales y formuladores de políticas una síntesis rigurosa del estado del arte en la determinación de derechos de decisión humano-IA. Específicamente, se busca: (1) establecer un mapa conceptual de las dimensiones evaluativas identificadas en la literatura de nivel I y II; (2) documentar los umbrales y mecanismos de supervisión propuestos para cada categoría de decisión; (3) identificar convergencias y divergencias entre marcos disciplinares; y (4) señalar brechas críticas que requieren investigación empírica adicional antes de 2026.
Desarrollo
Dimensiones Fundamentales para la Evaluación de Decisiones
La literatura converge en identificar dos dimensiones primarias que determinan la idoneidad de la autonomía de la IA: la ambigüedad de la decisión y el riesgo asociado a consecuencias adversas. La matriz desarrollada por Sebastian, Weill, Haskamp y vom Brocke define la ambigüedad como el grado en que los datos determinan claramente la respuesta y existe consenso sobre ella; decisiones de baja ambigüedad son repetibles y predecibles, mientras que las de alta ambigüedad admiten múltiples interpretaciones . El riesgo, por su parte, se refiere a las consecuencias de decidir incorrectamente, con implicaciones financieras, operativas o reputacionales que pueden ser difíciles de revertir .
El marco de RAND Corporation amplía estas dimensiones al incorporar cuatro criterios: criticidad (consecuencias del fallo), precisión (rendimiento del sistema de IA), novedad (variabilidad de la tarea y complejidad del entorno) y observabilidad (capacidad de monitorear el desempeño del sistema) . Esta formulación reconoce que la idoneidad de la automatización no depende únicamente de la naturaleza intrínseca de la decisión, sino también de la madurez técnica del sistema y de la infraestructura de supervisión disponible. La confluencia de ambos marcos sugiere que la determinación de derechos de decisión debe considerar tanto atributos de la tarea como capacidades del sistema y contexto organizacional.
Categorías de Decisión y Estrategias de Despliegue
La combinación de niveles de ambigüedad y riesgo produce cuatro categorías de decisión con implicaciones distintas para la autonomía de la IA. Las decisiones rutinarias (baja ambigüedad, bajo riesgo) son candidatas primarias para automatización, permitiendo que los agentes de IA ejecuten acciones dentro de parámetros predefinidos mientras los humanos mantienen supervisión durante la fase de confianza . El caso de One New Zealand ilustra esta categoría: un agente de IA traduce solicitudes de marketing en consultas SQL, reduciendo el tiempo de segmentación en 60%, con revisión humana del plan antes del lanzamiento .
Las decisiones consecuenciales (baja ambigüedad, alto riesgo) requieren un equilibrio más cuidadoso. Aunque los parámetros son bien definidos, las consecuencias adversas pueden ser significativas. En este contexto, la supervisión humana debe centrarse en el monitoreo de excepciones y la validación continua del desempeño . La literatura sobre monitoreo post-despliegue en radiología propone un modelo pragmático de human-on-the-loop para decisiones de alto riesgo, donde el sistema opera con autonomía supervisada, con alertas basadas en estabilidad temporal de entradas y salidas y divergencia predictiva respecto a una línea base de despliegue .
Las decisiones exploratorias (alta ambigüedad, bajo riesgo) implican interpretación, creatividad e incertidumbre, pero con consecuencias limitadas en caso de error. Aquí, la gobernanza debe priorizar la experimentación controlada, permitiendo que los agentes exploren soluciones mientras los humanos mantienen supervisión sobre el encuadre de objetivos y el aprendizaje organizacional . Finalmente, las decisiones estratégicas (alta ambigüedad, alto riesgo) requieren liderazgo humano fuerte, dado que combinan incertidumbre interpretativa con consecuencias potencialmente irreversibles. La evidencia indica que la IA puede contribuir al encuadre del problema y al análisis de opciones, pero la autorización final debe permanecer en manos humanas .
Niveles de Autonomía y Mecanismos de Supervisión
La literatura sobre niveles de autonomía proporciona un complemento operativo a las categorías de decisión. El MIT Media Lab ha propuesto cinco niveles que van desde la dirección humana inmediata (A1) hasta la independencia operativa completa (A5). En A1, el agente ejecuta acciones individuales bajo dirección humana, requiriendo aprobación para acciones consecuenciales. En A2, el agente recibe un objetivo acotado y ejecuta múltiples pasos sin aprobación constante, pero dentro de un sobre operativo definido por el humano (herramientas permitidas, datos accesibles, límites de gasto) . El nivel A3 marca una transición fundamental: el agente puede revisar su plan ante cambios de circunstancias y recuperarse de fallos ordinarios, pero debe detenerse o escalar cuando encuentra situaciones fuera de su envolvente operativa .
Los niveles A4 y A5 representan autonomía auto-gobernada e independiente respectivamente. En A4, el agente opera sin supervisión rutinaria dentro de un dominio operativo definido, con gobernanza basada en políticas, certificación de dominio, auditoría e investigación de incidentes . El nivel A5 implica operación a través de organizaciones y entornos cambiantes, con coordinación entre agentes y capacidad de completar tareas extensas sin supervisión operativa humana . La progresión de niveles no es meramente técnica; cada transición implica cambios cualitativos en los mecanismos de gobernanza requeridos, desde controles directos hasta sistemas de políticas ejecutables por máquina, identidad persistente y trazabilidad completa de acciones .
Fundamentos Legales y Regulatorios
El marco legal impone restricciones significativas a la delegación de decisiones en sistemas de IA. En la mayoría de jurisdicciones europeas, no es legalmente posible transferir autoridad de gestión a sistemas de IA; las funciones centrales de decisión deben permanecer en órganos de gobierno humanos . Los sistemas de IA pueden utilizarse como observadores sin derecho a voto, herramientas de apoyo a decisiones o instrumentos analíticos, pero no como miembros formales de consejos de administración .
La doctrina jurídica emergente sugiere que los consejos deben tratar los resultados de sistemas de IA de manera similar a la asesoría proporcionada por expertos humanos, aplicando principios de selección cuidadosa, asignación clara de responsabilidades, revisión de plausibilidad y evaluación independiente . Sin embargo, la naturaleza de caja negra de muchos sistemas de IA complica la aplicación de estos principios, requiriendo interpretaciones específicas del contexto algorítmico .
El Reglamento de Inteligencia Artificial de la Unión Europea, vigente desde agosto de 2024, establece un enfoque basado en riesgos que clasifica los sistemas de IA según su potencial de daño y exige requisitos de transparencia, supervisión humana y registro en bases de datos de la UE para proveedores y usuarios . El marco del NIST para la Gestión de Riesgos de IA, aunque voluntario, proporciona un enfoque estructurado a través de cuatro funciones —Gobernar, Mapear, Medir y Gestionar— que las organizaciones pueden adaptar según su tolerancia al riesgo y contexto de aplicación .
Consideraciones sobre Cognición Humana y Confianza
Un cuerpo creciente de evidencia sugiere que la integración de IA en procesos de decisión no es neutral respecto a la cognición humana. La revisión de literatura sobre el impacto de la IA generativa en la toma de decisiones humanas identifica una dinámica dual: mientras que la IA puede reforzar el razonamiento analítico (Sistema 2) al estructurar información y reducir carga cognitiva, también puede atenuar la participación heurística autónoma de los usuarios . Este fenómeno, denominado "descarga cognitiva," puede manifestarse como una aceptación acrítica de resultados algorítmicos sin reconstrucción del razonamiento subyacente .
Investigación en entornos médicos de alto riesgo documenta este dilema: algunos profesionales perciben la IA generativa como una mejora en la precisión diagnóstica, mientras que otros permanecen escépticos respecto a su fiabilidad . Un hallazgo particularmente relevante es que la IA generativa beneficia desproporcionadamente a profesionales con menor confianza en sus propias capacidades, lo que sugiere que la interacción heurística-algorítmica no es dicotómica sino un proceso dinámico donde la IA puede reforzar o debilitar la autonomía cognitiva según su implementación y contexto .
Estudios sobre la calidad de objetivos generados por IA en análisis de decisiones confirman que, aunque los modelos producen objetivos individualmente razonables, los conjuntos en su totalidad tienden a ser incompletos, redundantes e incluir objetivos instrumentales en lugar de fundamentales . La conclusión de los investigadores es que la IA generativa debe aumentar, no reemplazar, el juicio experto, y que los análisis de decisiones de calidad requieren un modelo híbrido que integre el brainstorming algorítmico con la refinación experta .
Evidencia Empírica y Brechas de Implementación
A pesar del desarrollo conceptual de marcos de decisión, la evidencia sobre su implementación efectiva permanece limitada. Datos de 2026 indican que el 53.1% de las organizaciones con despliegues reales de IA agéntica no cuenta con políticas de gobernanza específicas para agentes . Esta brecha se manifiesta típicamente como una sorpresa operativa: un agente realiza una acción que, aunque técnicamente dentro de sus capacidades, carece de propietario designado ex ante .
La investigación en radiología sobre monitoreo post-despliegue proporciona evidencia sobre mecanismos operativos viables para supervisión de IA en contextos de alto riesgo. El modelo de human-on-the-loop propuesto emplea alertas basadas en dos familias de datos que no requieren determinación inmediata de verdad fundamental: estabilidad temporal de entradas y salidas, y divergencia predictiva respecto a una línea base de despliegue. Este sistema permite priorizar revisiones cuando las etiquetas son diferidas o no continuamente factibles .
En cirugía de emergencia, una revisión de alcance de 2026 documenta que, aunque la IA muestra potencial para mejorar la consistencia en decisiones en escenarios críticos, la adopción en entornos reales permanece limitada, con la mayoría de herramientas confinadas a fases tempranas de validación . Las barreras identificadas incluyen disponibilidad limitada de datos de alta calidad, falta de herramientas específicas de contexto, acceso desigual a tecnología y ausencia de rutas de formación para profesionales .
Conclusiones
La evidencia científica disponible permite formular varias conclusiones sobre los marcos para determinar cuándo la IA puede tomar decisiones autónomamente. Primero, existe convergencia en que la idoneidad de la autonomía no es una propiedad intrínseca de la decisión, sino una función de múltiples dimensiones: ambigüedad, riesgo, precisión alcanzable, novedad y observabilidad . La "misma capacidad de IA puede ser segura en un contexto y riesgosa en otro," lo que descarta enfoques universalistas de gobernanza .
Segundo, la determinación de derechos de decisión humano-IA requiere una arquitectura de niveles que reconozca transiciones cualitativas en los mecanismos de control. La progresión desde dirección humana inmediata hasta independencia operativa no es un continuo suave, sino que implica cambios estructurales en la naturaleza de la supervisión: de control de acciones a gobernanza de políticas, de aprobación explícita a monitoreo de trayectorias, de intervención reactiva a sistemas de políticas ejecutables .
Tercero, el marco legal en la mayoría de jurisdicciones mantiene límites infranqueables a la delegación de autoridad de decisión, reservando funciones de gobierno y responsabilidad fiduciaria a personas naturales . Esto implica que, independientemente de las capacidades técnicas, la IA opera como instrumento de apoyo o delegado operativo, nunca como titular de derechos de decisión soberana.
Cuarto, la evidencia empírica documenta una brecha significativa entre el desarrollo conceptual de marcos y su implementación organizacional efectiva. La ausencia de políticas explícitas que definan límites de decisión agéntica constituye una vulnerabilidad sistémica que no se resuelve mediante mejoras en la precisión de los modelos, sino mediante gobernanza proactiva .
Quinto, la integración de IA en decisiones humanas no es cognitivamente neutral. La evidencia sobre descarga cognitiva y dinámicas heurístico-algorítmicas sugiere que el diseño de interacciones humano-IA debe considerar no solo la calidad de las recomendaciones algorítmicas, sino también la preservación de capacidades de juicio autónomo .
Retos y Direcciones Futuras
La literatura identifica múltiples retos que requieren investigación adicional. El reto de la observabilidad persiste como limitación fundamental: la naturaleza no determinista de los modelos de lenguaje de gran escala dificulta la predicción de comportamientos y la definición de anomalías, complicando la implementación de mecanismos de supervisión efectivos . La interpretabilidad clínicamente significativa permanece como frontera abierta, especialmente en contextos de alta urgencia donde la confianza en recomendaciones algorítmicas debe ser inmediata y bien fundamentada .
El reto de la atribución y responsabilidad requiere clarificación conceptual y operativa. La distinción entre diferentes tipos de responsabilidad legal —negligencia, responsabilidad estricta, responsabilidad vicaria, responsabilidad de producto— y su aplicabilidad a decisiones delegadas a sistemas de IA permanece sin resolución definitiva . Sistemas de certificación, registro y etiquetado de agentes de alta autonomía han sido propuestos como mecanismos para habilitar atribución clara de resultados .
El reto de la preservación de competencias humanas emerge como preocupación transversal. La evidencia sobre erosión de expertise en dominios automatizados sugiere que la delegación incremental sin estrategias de mantenimiento de habilidades puede degradar la capacidad organizacional para detectar y corregir errores algorítmicos . Marcos de gestión adaptativa que equilibren ganancias de eficiencia con preservación de competencias críticas requieren desarrollo e implementación .
Finalmente, el reto de la integración regulatoria transnacional permanece sin abordar de manera comprehensiva. La fragmentación entre enfoques jurisdiccionales —desde el marco basado en riesgos de la UE hasta aproximaciones más voluntarias en otras regiones— crea complejidad para organizaciones que operan globalmente y potenciales arbitrajes regulatorios que socavan protecciones efectivas .
Referencias
Sebastian, I., Weill, P., Haskamp, T., & vom Brocke, J. (2026). A framework for determining when AI can make decisions. MIT Sloan Center for Information Systems Research. https://mitsloan.mit.edu/ideas-made-to-matter/a-framework-determining-when-ai-can-make-decisions
RAND Corporation. (2026). Automating knowledge work: A framework for identifying automation strategies for tasks. In The Artificial Intelligence Revolution (pp. 399–421). Springer Nature. https://doi.org/10.1007/978-3-032-11814-1_15
MIT Media Lab. (2026). From autonomous cars to autonomous agents: The five levels of AI agent autonomy. https://www.media.mit.edu/articles/from-autonomous-cars-to-autonomous-agents-the-five-levels-of-ai-agent-autonomy/
NIST AI Resource Center. (2026). AI Risk Management Framework (AI RMF 1.0). https://airc.nist.gov/airmf-resources/
Heuristic or algorithmic thinking? Assessing generative AI's impact on human decision-making: A literature review. (2026). Applied Artificial Intelligence. https://doi.org/10.1080/08839514.2026.2726917
Interface EU. (2026). AI agent classification: Distinguishing between autonomy levels. https://www.interface-eu.org/publications/downloadPdf/ai-agent-classification
Sioli, L., & Arrigo, M. (2025). Human agency and oversight – A responsible and trustworthy use of artificial intelligence. In Routledge Handbook. Taylor & Francis. https://doi.org/10.4324/9781003518495-33
NIST. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0): Executive summary. https://airc.nist.gov/airmf-resources/airmf/0-ai-rmf-1-0/
Freshfields. (2026). AI, boardrooms and the law: Delegation, ownership and human judgment. https://www.freshfields.com/en/our-thinking/blogs/technology-quotient/ai-boardrooms-and-the-law-delegation-ownership-and-human-judgment-102mioo
Venugopal, V. K., Khubchandani, S. A., Liew, C. J. Y., Kitamura, F. C., Takhar, R., & Lip, G. (2026). Postdeployment monitoring and surveillance methods, guidelines, and possibilities for AI in radiology. RadioGraphics, 46(7), e250173. https://doi.org/10.1148/rg.250173
Human control of AI systems: From supervision to teaming. (2024). AI and Ethics. https://doi.org/10.1007/s43681-024-00489-4
Artificial intelligence in emergency surgery: A scoping review within the ARIES project. (2026). Europe PMC. https://europepmc.org/article/MED/41654983
Simon, J., & Siebert, J. U. (2025). ChatGPT vs. experts: Can GenAI develop high-quality organizational and policy objectives? Decision Analysis. https://www.eurekalert.org/news-releases/1105602
Waehner, K. (2026). Enterprise agentic AI landscape research. En Rhythms.ai. https://www.rhythms.ai/blog/what-should-an-ai-agent-be-allowed-to-decide-without-a-human
NIST. (2021). AI Risk Management Framework overview. https://www.nist.gov/itl/ai-risk-management-framework