Doxa 2691

Los costes ocultos de delegar en la inteligencia artificial:
Una revisión integradora de la evidencia científica (2019–2025)

Por: Oscar Hernando Benavides Paz, MBA

Investigación en gestión de la tecnología y economía de la inteligencia artificial

Resumen. La narrativa dominante sobre la inteligencia artificial (IA) enfatiza ganancias de velocidad y reducción de costes de ejecución. Sin embargo, la evidencia científica acumulada entre 2019 y 2025 muestra que delegar trabajo en sistemas de IA genera costes que no aparecen en las métricas convencionales de productividad. Esta revisión integradora sintetiza hallazgos de estudios publicados en revistas indexadas y informes técnicos oficiales para identificar y clasificar los costes ocultos de la delegación en IA. Se identifican seis dimensiones interrelacionadas: costes cognitivos (offloading, fatiga y erosión del pensamiento crítico), costes organizativos (verificación, coordinación, accountability y lock-in), costes económicos (deuda técnica, paradoja de productividad y dependencia de proveedores), costes laborales y sociales (trabajo fantasma, precariedad y desigualdad), costes ambientales (huella energética, hídrica y de carbono) y costes de gobernanza (shadow AI, sesgo de automatización y asimetría de evaluación). Los resultados sugieren que el coste total de delegación —ejecución más todo lo que la rodea— supera sistemáticamente las estimaciones a nivel de tarea. Se concluye que la adopción responsable de IA exige marcos de contabilidad organizacional que internalicen estos costes y políticas de gobernanza que preserven la agencia humana, la verificabilidad y la sostenibilidad.

Palabras clave: costes ocultos; delegación algorítmica; offloading cognitivo; trabajo fantasma; huella ambiental de la IA; gobernanza de IA; productividad; revisión de literatura.

1. Introducción

La inteligencia artificial se ha consolidado como una tecnología de propósito general con capacidad para reconfigurar procesos productivos, prácticas profesionales y estructuras organizativas. Los informes de adopción empresarial indican que una mayoría sustancial de organizaciones utiliza herramientas de IA generativa de forma regular, aunque solo una fracción reducida reporta impacto medible en resultados económicos a escala organizacional. Esta disociación entre adopción y valor efectivo constituye el punto de partida de la presente revisión: la aceleración de tareas individuales no se traduce automáticamente en mejoras equivalentes para la organización, porque delegar trabajo en un sistema de IA crea costes que van más allá de la ejecución.

La literatura científica ha documentado de manera creciente que la delegación en IA no es un acto neutral de sustitución tecnológica. Implica transferir funciones cognitivas, decisiones y responsabilidades a sistemas cuyos mecanismos internos son opacos para el usuario y cuyas consecuencias se distribuyen de forma asimétrica entre actores. Chen, Amrollahi y Yue (2025), en una revisión sistemática de configuraciones de colaboración humano-IA, identifican tres paradojas emergentes: la paradoja del sobrecoste —sistemas diseñados para reducir la carga cognitiva que, sin embargo, la aumentan mediante exigencias de transparencia e interpretabilidad—, la asimetría de evaluación —sistemas presentados como bidireccionales en los que la evaluación fluye exclusivamente del humano a la máquina— y la accountability fantasma —configuraciones delegativas en las que los humanos conservan responsabilidad formal sobre decisiones algorítmicas que no comprenden ni controlan—. Estas paradojas no son anomalías transitorias, sino propiedades estructurales de la colaboración humano-IA que deben incorporarse al análisis económico y organizativo.

La presente revisión parte de una premisa metodológica: el coste relevante no es el coste de ejecución de una tarea aislada, sino el coste total de delegación, que incluye la especificación del trabajo, la verificación del resultado, la coordinación con otros actores, la asunción de responsabilidad, el aprendizaje organizativo y las externalidades sociales y ambientales asociadas. Este enfoque permite integrar hallazgos dispersos en psicología cognitiva, estudios organizacionales, economía de la innovación, sociología del trabajo y ciencias ambientales en un marco comprehensivo.

La revisión se justifica por tres razones. Primera, la evidencia empírica sobre los efectos de la IA es fragmentaria y con frecuencia se limita a métricas de productividad a corto plazo. Segunda, los costes ocultos tienden a distribuirse en el tiempo y entre actores, lo que dificulta su detección mediante indicadores convencionales. Tercera, la formulación de políticas de adopción responsable requiere identificar no solo los beneficios potenciales, sino también los mecanismos concretos mediante los cuales la delegación en IA puede erosionar capacidades humanas, ampliar desigualdades o generar riesgos sistémicos.

2. Objetivos

Objetivo general. Sintetizar y clasificar la evidencia científica disponible entre 2019 y 2025 sobre los costes ocultos asociados a la delegación de tareas y decisiones en sistemas de inteligencia artificial, con el fin de construir un marco integrador que permita a investigadores y responsables de política evaluar el coste total de delegación más allá de las métricas de eficiencia inmediata.

Objetivos específicos.

• Identificar las dimensiones cognitivas, organizativas, económicas, laborales, ambientales y de gobernanza de los costes ocultos de la delegación en IA.
• Analizar los mecanismos causales que explican por qué la aceleración de tareas individuales no se traduce en mejoras equivalentes a nivel organizacional.
• Examinar las paradojas estructurales de la colaboración humano-IA documentadas en la literatura científica reciente.
• Evaluar la calidad y consistencia de la evidencia disponible, señalando vacíos y limitaciones metodológicas.
• Proponer un marco conceptual de coste total de delegación que integre las dimensiones identificadas y oriente futuras investigaciones y prácticas de gobernanza.

3. Metas

La revisión se plantea las siguientes metas operativas, concebidas como resultados verificables del proceso de síntesis:

• Meta 1: Delimitar un corpus de evidencia primaria y secundaria publicada entre 2019 y 2025 en fuentes indexadas y organismos técnicos oficiales, priorizando estudios empíricos y revisiones sistemáticas sobre IA y trabajo, cognición, organización y medio ambiente.
• Meta 2: Construir una taxonomía de costes ocultos que distinga entre costes internos a la organización, costes externalizados hacia trabajadores y comunidades, y costes diferidos en el tiempo.
• Meta 3: Contrastar la hipótesis de la paradoja de productividad de la IA, según la cual las ganancias a nivel de tarea no se propagan proporcionalmente al nivel organizacional.
• Meta 4: Identificar mecanismos de mitigación documentados y áreas prioritarias de investigación futura.
• Meta 5: Producir un marco de referencia utilizable en la evaluación ex ante y ex post de proyectos de delegación en IA.

4. Desarrollo

4.1. Marco conceptual: de la sustitución de tareas a la delegación sociotécnica

La literatura temprana sobre automatización tendía a conceptualizar la IA como un conjunto de tecnologías de sustitución de tareas. Sin embargo, la evidencia reciente sugiere que la categoría analítica más adecuada es la de delegación, entendida como la transferencia de una actividad a un agente —humano o artificial— que actúa en nombre de otro y cuyos resultados deben ser especificados, verificados y asumidos por quien delega. Chen et al. (2025) distinguen tres configuraciones de colaboración: co-adaptativa, aumentativa y delegativa. En la configuración delegativa, el humano conserva la responsabilidad formal pero pierde control efectivo sobre el proceso, lo que genera lo que los autores denominan "accountability fantasma". Esta distinción es crucial porque el coste de delegación no depende únicamente de la capacidad técnica del sistema, sino de la estructura de responsabilidad y de los mecanismos de evaluación disponibles.

El marco de delegación permite integrar hallazgos que de otro modo aparecerían desconectados. La psicología cognitiva aporta evidencia sobre los efectos del offloading en la memoria de trabajo y el pensamiento crítico. La sociología del trabajo documenta la reorganización de tareas, la pérdida de autonomía y la emergencia de formas de trabajo invisibilizado. La economía de la innovación explica los costes de transacción, la dependencia tecnológica y la deuda técnica. Las ciencias ambientales cuantifican las externalidades energéticas e hídricas. La teoría política y del derecho contribuye al análisis de la accountability y la legitimidad. La presente revisión sostiene que estos niveles de análisis son interdependentes y que ignorar cualquiera de ellos conduce a una subestimación sistemática del coste real de la IA.

4.2. Costes cognitivos: offloading, fatiga y erosión de la agencia epistémica

El concepto de offloading cognitivo designa el uso de herramientas externas para almacenar o procesar información con el fin de conservar recursos cognitivos internos. Aunque puede ser adaptativo en determinadas circunstancias, la evidencia empírica reciente indica que la dependencia habitual de sistemas de IA se asocia con una reducción de la actividad reflexiva y analítica. Tian y Zhang (2025), en un estudio con 580 estudiantes universitarios, encontraron que una mayor dependencia de la IA se asociaba con niveles más bajos de pensamiento crítico, con la fatiga cognitiva como mediadora parcial de esta relación. El estudio también reveló que la alfabetización informacional amortigua el impacto negativo de la dependencia, pero puede amplificar la fatiga cognitiva cuando la confianza en la IA es elevada, lo que sugiere un papel dual de las competencias digitales.

Estos hallazgos son consistentes con la teoría de la carga cognitiva y con la investigación sobre inercia cognitiva. La externalización repetida de procesos de inferencia, síntesis y evaluación reduce la demanda cognitiva inmediata, pero puede impedir el desarrollo y el mantenimiento de las capacidades de orden superior necesarias para detectar errores, evaluar la plausibilidad de los resultados y adaptarse a situaciones novedosas. En contextos profesionales, este fenómeno se traduce en lo que la literatura denomina des-skilling o erosión de la experiencia: los profesionales que delegan sistemáticamente tareas complejas pueden perder gradualmente la capacidad de realizarlas de forma autónoma, lo que incrementa la dependencia de la tecnología y reduce la resiliencia organizacional.

La dimensión epistémica del coste cognitivo es particularmente relevante. La delegación en IA no solo transfiere la ejecución de una tarea, sino también la autoridad epistémica para determinar qué cuenta como respuesta válida. Cuando los usuarios aceptan los resultados sin verificación independiente, se produce un desplazamiento de la carga de la prueba: la IA se convierte en el punto de referencia por defecto y la verificación humana se vuelve reactiva, limitada a confirmar la plausibilidad superficial del output. Este desplazamiento incrementa la vulnerabilidad a errores sistemáticos y reduce la capacidad colectiva de generar conocimiento validado de forma independiente.

4.3. Costes organizativos: verificación, coordinación y accountability

Uno de los hallazgos más robustos de la literatura reciente es que la aceleración de la ejecución de tareas desplaza los cuellos de botella hacia actividades de verificación, revisión y coordinación. El análisis de la implantación de IA en la preparación de declaraciones fiscales en cuatro firmas contables durante la temporada 2025–2026 ilustra este fenómeno: aunque la IA redujo el tiempo de preparación en aproximadamente un tercio y aumentó el rendimiento en torno al 50%, los revisores seguían necesitando determinar si el trabajo era correcto y comprender cómo el sistema había llegado a su output, especialmente en casos límite. En algunos casos, el tiempo de revisión apenas disminuyó, y la ganancia de productividad se tradujo en un desplazamiento del cuello de botella más que en su eliminación.

La verificación de resultados generados por IA presenta dificultades específicas. Los errores humanos suelen ser idiosincrásicos, mientras que los errores de la IA tienden a repetirse en torno a tipos de documentos o casos límite concretos, lo que puede facilitar la revisión una vez identificados los patrones, pero también puede generar puntos ciegos sistemáticos si los revisores no disponen de información sobre el proceso de generación. La trazabilidad y la explicabilidad se convierten, por tanto, en condiciones necesarias para reducir el coste de verificación, pero su implementación añade a su vez costes de diseño, documentación y mantenimiento.

La coordinación constituye otra dimensión crítica. Los informes sectoriales de 2025 indican que una mayoría de trabajadores percibe que la IA genera más trabajo de coordinación entre miembros del equipo, y esta percepción se intensifica entre los trabajadores de alta productividad. La razón es estructural: cuando la IA acelera la producción en una etapa del flujo de trabajo, las etapas posteriores deben absorber un volumen mayor de inputs, y la coordinación entre actores humanos y sistemas automatizados requiere mecanismos de sincronización, definición de interfaces y resolución de ambigüedades que no siempre están previstos. El resultado es una "taxa de orquestación" que recae sobre los trabajadores y que rara vez se contabiliza en los estudios de retorno de la inversión.

La accountability representa el coste de explicar el trabajo a otros y asumir las consecuencias en caso de error. La delegación en IA no reduce este coste, sino que lo transforma. En la configuración delegativa, el humano conserva la responsabilidad formal sobre decisiones que no comprende completamente, lo que genera una asimetría entre responsabilidad y control. Esta asimetría se agrava en contextos regulados, donde los marcos normativos exigen supervisión humana efectiva pero no proporcionan criterios claros para evaluar si esa supervisión es genuina o meramente formal. La accountability fantasma no es solo un problema ético: es un coste operativo que se materializa en seguros, auditorías, litigios y pérdida de confianza institucional.

4.4. Costes económicos: lock-in, deuda técnica y paradoja de productividad

La dependencia de proveedores de IA —vendor lock-in— constituye uno de los riesgos económicos más subestimados de la adopción empresarial. Los análisis de implementaciones empresariales sugieren que los costes de cambio de plataforma pueden situarse entre 2,3 y 5,7 veces el coste de implementación original, especialmente cuando las arquitecturas técnicas, los espacios de embeddings propietarios y los flujos de trabajo se han adaptado a un proveedor específico. Estos costes no se limitan a la migración técnica: incluyen la reconfiguración de procesos, la recapacitación del personal, la pérdida de integraciones y el tiempo de inactividad durante la transición.

La deuda técnica asociada a la IA agrava este problema. Gartner (2025) proyecta que, para 2030, la mitad de las empresas enfrentará retrasos en actualizaciones y costes crecientes de mantenimiento debido a deuda técnica de IA generativa no gestionada. La rápida adopción de herramientas generativas sin marcos de gobernanza adecuados produce artefactos difíciles de mantener, documentar y reemplazar, lo que incrementa el coste total de propiedad a lo largo del ciclo de vida. La deuda técnica no es un fenómeno puramente técnico: refleja decisiones organizativas de corto plazo que externalizan costes hacia el futuro.

La paradoja de productividad de la IA se manifiesta en la disociación entre ganancias a nivel de tarea y resultados a nivel organizacional. Un estudio del MIT de 2025 sobre 300 pilotos de IA en grandes organizaciones encontró que solo el 5% producía valor medible. Otras estimaciones sugieren que, aunque el 88% de las organizaciones utiliza IA de forma regular, solo el 39% reporta impacto en el EBIT a nivel empresarial. Estas cifras no implican que la IA sea improductiva, sino que las ganancias de eficiencia en tareas aisladas se absorben en costes de coordinación, verificación, integración y reorganización que no se contabilizan en las evaluaciones convencionales. La paradoja es, en gran medida, un artefacto de medición: lo que no se mide no se gestiona, y lo que no se gestiona se convierte en coste oculto.

4.5. Costes laborales y sociales: trabajo fantasma, precariedad y desigualdad

La narrativa de la automatización autónoma oculta una realidad material: los sistemas de IA dependen de redes distribuidas de trabajadores humanos que realizan tareas de anotación de datos, moderación de contenido, verificación de resultados y corrección de errores en condiciones de precariedad. Nemer y Sobral (2025) analizan este fenómeno bajo el concepto de heteromation y demuestran que los sistemas de IA operan como ensamblajes sociotécnicos en los que el trabajo humano fragmentado, invisible y mal remunerado sostiene la apariencia de inteligencia maquínica. Plataformas como Amazon Mechanical Turk y Appen organizan y oscurecen esta labor mediante gestión algorítmica y borrado cultural, extrayendo valor de trabajadores que carecen de visibilidad y protección social.

El coste humano de este trabajo invisible incluye salarios explotadores, ausencia de beneficios sociales, terminación arbitraria y consecuencias graves para la salud mental. Los trabajadores expuestos a contenido violento o gráfico durante tareas de moderación y etiquetado presentan tasas elevadas de estrés postraumático, ansiedad y consumo de sustancias, sin acceso adecuado a apoyo psicológico. Estas externalidades no aparecen en los estados financieros de las empresas que despliegan IA, pero constituyen un coste social real que recae sobre trabajadores y comunidades, con frecuencia en el Sur Global.

La dimensión de desigualdad es igualmente significativa. Los informes de Naciones Unidas de 2025 advierten que la IA podría ampliar la brecha entre países ricos y pobres, así como entre grupos sociales dentro de cada país, debido a diferencias en infraestructura, habilidades, capacidad de cómputo y gobernanza. La concentración de capacidades de IA en unas pocas empresas y países limita la capacidad de los actores periféricos para participar en la creación de valor y los expone a dependencias tecnológicas estructurales. La desigualdad no es un efecto secundario inevitable, sino el resultado de decisiones de diseño, inversión y gobernanza que distribuyen de forma asimétrica los beneficios y los costes.

4.6. Costes ambientales: la huella material de la inteligencia artificial

La IA es una tecnología intensiva en recursos. Los centros de datos que soportan los modelos de gran escala consumen cantidades crecientes de electricidad y agua, y dependen de hardware cuya fabricación implica extracción de minerales y generación de residuos electrónicos. de Vries-Gao (2025) estima que la huella de carbono de los sistemas de IA podría situarse entre 32,6 y 79,7 millones de toneladas de CO₂ en 2025, mientras que la huella hídrica podría alcanzar entre 312,5 y 764,6 mil millones de litros. Estas cifras equivalen, en orden de magnitud, a las emisiones de una ciudad como Nueva York y al consumo anual global de agua embotellada.

La falta de transparencia de los operadores de centros de datos dificulta la atribución precisa de estos impactos a cargas de trabajo de IA específicas. La mayoría de los informes ambientales corporativos no distinguen entre cargas de IA y no-IA, lo que obliga a los investigadores a aproximar el impacto mediante métricas generales de rendimiento de los centros de datos. Esta opacidad no es un problema meramente metodológico: impide la rendición de cuentas y dificulta el diseño de políticas de mitigación. La urgencia de transparencia es creciente, dado que la demanda de electricidad de los centros de datos podría más que duplicarse para 2030.

Los costes ambientales de la IA no se distribuyen de forma equitativa. Las comunidades locales donde se instalan centros de datos enfrentan presiones sobre recursos hídricos y energéticos, así como impactos en el uso del suelo y la biodiversidad. Estos costes recaen con frecuencia sobre poblaciones que no participan de los beneficios de la IA, lo que plantea cuestiones de justicia ambiental que la literatura científica apenas comienza a abordar de forma sistemática.

4.7. Costes de gobernanza: shadow AI, sesgo de automatización y asimetría de evaluación

La adopción no autorizada de herramientas de IA —shadow AI— constituye un riesgo de gobernanza con costes económicos y de seguridad cuantificables. Gartner (2025) encontró que el 69% de las organizaciones sospecha o tiene evidencia de que sus empleados utilizan herramientas de IA generativa públicas prohibidas, y predice que para 2030 más del 40% de las empresas experimentará incidentes de seguridad o cumplimiento vinculados a shadow AI. Los informes de costes de brechas de datos indican que los incidentes que involucran shadow AI tienen un coste promedio significativamente mayor que las brechas convencionales, con estimaciones que oscilan entre 308.000 y 670.000 dólares adicionales por incidente.

El sesgo de automatización —la tendencia humana a confiar excesivamente en los outputs de los sistemas automatizados— agrava estos riesgos. La literatura sobre decisiones asistidas por IA muestra que los usuarios pueden desactivar su juicio crítico, sentirse menos responsables y aceptar recomendaciones algorítmicas incluso cuando contradicen su experiencia o la evidencia disponible. Este fenómeno no se corrige simplemente añadiendo requisitos de accountability: un estudio experimental encontró que los requisitos de rendición de cuentas aumentaron el tiempo de deliberación pero no redujeron la dependencia excesiva de la IA ni mejoraron la alineación con el juicio experto.

La asimetría de evaluación identificada por Chen et al. (2025) complementa este diagnóstico: en muchos sistemas presentados como colaborativos, la evaluación fluye exclusivamente del humano a la máquina, sin que existan mecanismos equivalentes para que el sistema evalúe la calidad del juicio humano o para que los usuarios reciban retroalimentación sobre sus propios sesgos. Esta asimetría impide el aprendizaje mutuo y refuerza relaciones de dependencia en las que el humano pierde progresivamente capacidad de agencia epistémica. La gobernanza efectiva de la IA requiere, por tanto, no solo controles técnicos, sino también diseños institucionales que preserven la simetría evaluativa y la capacidad de los usuarios para cuestionar y corregir los sistemas.

4.8. Paradojas emergentes y límites de los modelos de colaboración humano-IA

La evidencia revisada permite identificar un conjunto de paradojas que cuestionan los supuestos dominantes sobre la colaboración humano-IA. La primera es la paradoja del sobrecoste cognitivo: los sistemas diseñados para reducir la carga de trabajo pueden incrementarla al exigir transparencia, interpretabilidad y verificación constante. La segunda es la asimetría de evaluación: la retórica del aprendizaje mutuo no se corresponde con arquitecturas que evalúan al humano pero no son evaluadas por él de forma significativa. La tercera es la accountability fantasma: la responsabilidad formal se conserva en el humano mientras el control efectivo se desplaza hacia el sistema.

A estas paradojas se añade la homogeneización creativa. Los estudios sobre el efecto de los modelos de lenguaje de gran escala en la diversidad creativa sugieren que, aunque la IA puede aumentar la creatividad individual en el corto plazo, el uso generalizado de los mismos modelos tiende a reducir la diversidad colectiva de ideas y a promover la convergencia estilística. Moon, Green y Kushlev (2025) encontraron que cada ensayo escrito por humanos contribuye con más ideas nuevas que un ensayo generado por GPT, lo que sugiere que la dependencia de la IA puede empobrecer el pool colectivo de innovación. Esta homogeneización no es un fallo técnico, sino una consecuencia estructural de la optimización para la plausibilidad estadística y la conformidad con patrones dominantes.

Finalmente, la paradoja de la productividad organizacional sintetiza estas tensiones: la IA acelera la ejecución pero desplaza los cuellos de botella hacia la verificación, la coordinación y la accountability, de modo que el beneficio neto a nivel organizacional puede ser sustancialmente menor que el beneficio a nivel de tarea. La implicación no es que la IA carezca de valor, sino que su valor debe evaluarse con métricas que capturen el coste total de delegación y no únicamente la eficiencia de ejecución.

5. Conclusiones

La evidencia científica revisada permite sostener cuatro conclusiones principales. Primera, los costes ocultos de delegar en IA son multidimensionales y sistémicos: no se limitan a fallos técnicos o a resistencias culturales, sino que emergen de la interacción entre arquitecturas tecnológicas, estructuras organizativas, incentivos económicos y marcos institucionales. Ignorar cualquiera de estas dimensiones conduce a una subestimación sistemática del coste real y a una sobreestimación del valor esperado.

Segunda, la paradoja de productividad de la IA es en gran medida un problema de contabilidad organizacional. Las métricas convencionales capturan la aceleración de tareas pero no los costes de verificación, coordinación, accountability, lock-in, deuda técnica y externalidades sociales y ambientales. La adopción de un marco de coste total de delegación —que incluya estos componentes— permitiría a las organizaciones tomar decisiones más informadas y evitar la trampa de optimizar para indicadores parciales.

Tercera, los costes cognitivos y laborales no son efectos secundarios inevitables, sino consecuencias de decisiones de diseño y gobernanza. La evidencia sobre offloading cognitivo, des-skilling y trabajo fantasma muestra que la delegación en IA puede erosionar capacidades humanas y reproducir formas de explotación cuando no se acompaña de salvaguardas institucionales. La mitigación requiere políticas de alfabetización crítica, diseños que preserven la agencia epistémica y marcos laborales que protejan a los trabajadores invisibles de la cadena de valor de la IA.

Cuarta, la sostenibilidad ambiental de la IA es un coste presente, no futuro. Las estimaciones de huella de carbono e hídrica para 2025 indican que la escala del impacto ya es significativa y que la falta de transparencia de los operadores impide una gestión responsable. La internalización de estos costes mediante regulación, estándares de divulgación y mecanismos de precio del carbono es una condición necesaria para que la IA contribuya a un desarrollo sostenible en lugar de socavarlo.

6. Retos

La agenda de investigación y gobernanza derivada de esta revisión enfrenta varios retos prioritarios.

Reto 1: Medición del coste total de delegación. Es necesario desarrollar metodologías robustas para cuantificar los costes de verificación, coordinación, accountability y lock-in a lo largo del ciclo de vida de los proyectos de IA. Sin instrumentos de medición validados, la comparación entre alternativas tecnológicas y organizativas seguirá sesgada hacia métricas de eficiencia inmediata.

Reto 2: Transparencia y trazabilidad. La reducción del coste de verificación requiere sistemas que hagan explícitos sus procesos de generación, sus fuentes y sus niveles de confianza. La trazabilidad no es solo un requisito técnico, sino una condición para la accountability democrática y para la confianza pública en los sistemas de IA.

Reto 3: Preservación de la agencia humana y la diversidad cognitiva. El diseño de sistemas de IA debe orientarse a ampliar las capacidades humanas, no a sustituirlas de forma que se erosionen las competencias necesarias para ejercer un juicio independiente. Esto implica invertir en formación crítica, diseñar interfaces que fomenten la verificación activa y evitar arquitecturas que promuevan la aceptación pasiva de outputs.

Reto 4: Gobernanza de la cadena de valor global. La invisibilidad del trabajo de anotación y moderación, junto con la concentración de capacidades de IA en pocas empresas, plantea desafíos de justicia global que no pueden resolverse únicamente con iniciativas voluntarias. Se requieren marcos vinculantes de derechos humanos, salarios dignos, protección social y condiciones de trabajo seguras a lo largo de toda la cadena de valor.

Reto 5: Sostenibilidad ambiental y divulgación obligatoria. La falta de datos desagregados sobre el consumo energético e hídrico de las cargas de trabajo de IA impide una gestión ambiental responsable. La divulgación obligatoria de métricas ambientales específicas para IA, junto con estándares de eficiencia y mecanismos de compensación, es un paso necesario para internalizar las externalidades ambientales.

Reto 6: Coherencia regulatoria y accountability efectiva. Los marcos regulatorios emergentes, como el Reglamento de IA de la Unión Europea, exigen supervisión humana, pero no especifican cómo garantizar que esa supervisión sea genuina y no meramente formal. Es necesario desarrollar estándares de auditoría, certificación y evaluación de impacto que permitan verificar la calidad de la supervisión humana y la distribución de responsabilidades.

En síntesis, la delegación en IA no es una elección binaria entre adopción y rechazo, sino un proceso de diseño sociotécnico que debe gestionarse con atención explícita a los costes que se distribuyen de forma invisible. La evidencia revisada ofrece una base sólida para avanzar hacia prácticas de adopción más responsables, pero también revela vacíos significativos que la investigación futura debe abordar con rigor metodológico y perspectiva interdisciplinaria.

Referencias

Brynjolfsson, E., Chandar, B., & Chen, R. (2025). Canaries in the coal mine? Six facts about the recent employment effects of artificial intelligence [Working paper]. Stanford Digital Economy Lab.

Chen, Y., Amrollahi, A., & Yue, L. (2025). Reconceptualising human-AI collaboration: A systematic review of human-AI collaboration configurations. ACIS 2025 Proceedings, 30. https://aisel.aisnet.org/acis2025/30

de Vries-Gao, A. (2025). The carbon and water footprints of data centers and what this could mean for artificial intelligence. Patterns, 7(1), 101430. https://doi.org/10.1016/j.patter.2025.101430

Gartner. (2025, 19 de noviembre). Gartner identifies critical GenAI blind spots that CIOs must urgently address [Comunicado de prensa]. https://www.gartner.com/en/newsroom/press-releases/2025-11-19-gartner-identifies-critical-genai-blind-spots-that-cios-must-urgently-address0

IBM. (2025). Cost of a data breach report 2025. IBM Security.

Kaput, M. (2025). MIT study finds only 5% of AI pilots deliver measurable value [Informe técnico]. Massachusetts Institute of Technology.

Moon, K., Green, A. E., & Kushlev, K. (2025). Homogenizing effect of large language models (LLMs) on creative diversity: An empirical comparison of human and ChatGPT writing. Artificial Humans, 6, 100207. https://doi.org/10.1016/j.artd.2025.100207

Nemer, D., & Sobral, A. (2025). Artificial intelligence as heteromation: The human infrastructure behind the machine. AI & Society. https://doi.org/10.1007/s00146-025-02664-5

Tian, J., & Zhang, R. (2025). Learners' AI dependence and critical thinking: The psychological mechanism of fatigue and the social buffering role of AI literacy. Acta Psychologica, 260, 105725. https://doi.org/10.1016/j.actpsy.2025.105725

Xu, J. (2025). Algorithmic management and workers' responses: A systematic review and thematic analysis. Academy of Management Proceedings. https://doi.org/10.5465/AMPROC.2025.18879abstract

Asana. (2025). The AI super productivity paradox: More output, same bottlenecks [Informe sectorial]. https://asana.com

Business and Human Rights Resource Centre. (2025). Scroll. Click. Suffer: The hidden human cost of content moderation and data labelling. https://www.business-humanrights.org

Naciones Unidas. (2025). AI could widen global inequality without investment and safeguards [Informe de política]. UN Geneva Press Briefing.