Doxa 2587

Cuando los empleados son responsables de las decisiones generadas por la IA

Las investigaciones revelan que los trabajadores interpretan, modifican y enmascaran activamente las decisiones de la IA para proteger su credibilidad y satisfacer las expectativas de las partes interesadas

Por Anne-Sophie Mayer, Elmira van den Broek y Tomislav Karačić

Liderazgo y gestión de personas

Harvard Business Review

#Doxa #IA #Responsabilidad #Empleados #Decisiones #Credibilidad #PartesInteresadas #Interpretación #Modificación #Enmascaramiento #Trabajadores

Resumen. Las organizaciones se apresuran a integrar la IA en sus decisiones clave, pero los trabajadores de primera línea se ven obligados a explicar resultados que ni crearon ni comprenden del todo. En un estudio de campo de varios años que abarcó los sectores bancario, de reclutamiento y biotecnología, los investigadores descubrieron queLos empleados rara vez transmiten los resultados de la IA textualmente; los enmascaran, amplifican o complementan según cómo se haya implementado la IA. Estas prácticas ocultas determinan si la IA genera confianza, resistencia o se manipula discretamente, y dónde recae el riesgo profesional. Para minimizar el riesgo al usar la IA, las empresas deben ayudar a los trabajadores a desarrollar nuevos roles interpretativos, mantener un escrutinio crítico y transformar la explicabilidad, de un mero ejercicio de cumplimiento, en una fuente de aprendizaje y mejores decisiones en toda la organización.

Las organizaciones están incorporando rápidamente la IA en decisiones que antes se consideraban competencia exclusiva de expertos humanos, desde la contratación y los préstamos hasta la atención médica y la administración pública. Sin embargo, a menudo se pasa por alto lo que sucede a nivel de los empleados, cuando se espera que comuniquen, justifiquen y defiendan las decisiones generadas por la IA que no tomaron y que, con frecuencia, no comprenden del todo.

Nuestra investigación explora ese aspecto poco estudiado de la implementación de la IA. A partir de un estudio de campo de varios años en los sectores bancario, de reclutamiento y de biotecnología, descubrimos que los empleados rara vez comparten los resultados de la IA con clientes, gerentes o colegas tal cual. En cambio, los reinterpretan, los modifican e incluso, en ocasiones, los ocultan para proteger su rol profesional y su credibilidad. Su respuesta depende en gran medida de a quién rinden cuentas y a quién deben convencer.

Comprender estas respuestas es fundamental, ya que determinan si las decisiones de la IA se aceptan, se cuestionan o se socavan discretamente dentro de las organizaciones. Nuestra investigación identifica diferentes maneras en que los empleados responden cuando se les pide que expliquen las decisiones generadas por la IA y señala mejores formas en que las empresas pueden gestionar los riesgos.

Cuando los expertos enmascaran la IA

En un importante banco alemán al que seguimos durante seis años (de 2019 a 2025), los responsables de crédito se enfrentaron a un sistema de IA predictiva que automatizaba por completo las decisiones de aprobación de préstamos. Si bien no podían anular las decisiones del sistema, seguían siendo responsables de comunicarlas y justificarlas ante los clientes.

Para facilitarles esta tarea, el sistema de IA generó explicaciones técnicas básicas, generalmente una serie de puntos con las reglas para el rechazo de una solicitud. Sin embargo, muchos agentes de crédito tuvieron dificultades para comprender estas explicaciones, ya que se alejaban considerablemente de sus estándares profesionales. Por ejemplo, el sistema podía indicar una "situación financiera inestable" incluso cuando un cliente no tenía préstamos vigentes y contaba con ingresos estables.

Los responsables de préstamos dudaban en admitir abiertamente su confusión, pues temían que esto menoscabara el papel de expertos que los clientes esperaban de ellos. Decidieron ocultar el papel de la IA y mantener los estándares y la terminología habituales para explicar las decisiones sobre los préstamos, aunque estas ya no se basaran en ellos.

Por ejemplo, los funcionarios citaban criterios habituales en el sector bancario, como un historial crediticio deficiente o umbrales de ingresos más estrictos debido a la inflación, como razones para rechazar préstamos, incluso cuando no se ajustaban a las reglas reales de la IA. Esperaban que los clientes consideraran plausibles esas explicaciones y siguieran confiando en los funcionarios de crédito.

Pero el enmascaramiento tuvo un costo. Observamos que los clientes a menudo salían confundidos de las consultas sobre préstamos cuando las explicaciones de los asesores no se ajustaban a su situación financiera particular. En conversaciones, varios clientes informaron haber notado la confusión e incertidumbre de los asesores al hacer preguntas de seguimiento, dudando de si realmente comprendían la decisión y merecían sus servicios. En consecuencia, algunos clientes decidieron cambiarse a un banco de la competencia. En lugar de fortalecer la confianza en las decisiones de la IA, el enmascaramiento creó distancia entre la organización, sus empleados y sus clientes.

Cuando los expertos adoptan la IA

En una empresa global de bienes de consumo que estudiamos entre 2018 y 2022, se observó una respuesta muy diferente. Los reclutadores internos de la empresa adoptaron con entusiasmo una nueva herramienta de selección basada en inteligencia artificial que predecía la idoneidad de los candidatos a un puesto de trabajo mediante la identificación de patrones en los datos de personalidad y rendimiento de empleados anteriores.

A diferencia de los agentes de crédito, la mayoría de los reclutadores no veían la herramienta de IA como una amenaza. En cambio, la mayoría la consideraba una oportunidad para fortalecer su credibilidad ante los gerentes de contratación, quienes a menudo cuestionaban las selecciones de los reclutadores.

Durante años, los reclutadores tuvieron dificultades para justificar la selección de ciertos candidatos para las entrevistas de trabajo. La herramienta de IA pareció ofrecerles algo que les había faltado durante mucho tiempo: datos que respaldaran sus decisiones. Los reclutadores comenzaron a mostrar puntuaciones, gráficos y rasgos de personalidad generados por la IA en sus reuniones informativas con los gerentes de contratación, con la esperanza de que los datos hicieran más convincentes las selecciones de candidatos.

Inicialmente, la estrategia parecía prometedora. Los gerentes quedaron impresionados con los nuevos resultados, pero pronto se toparon con otro problema: les costaba interpretarlos. ¿Una puntuación de 59 era buena o mala? ¿Qué criterio de referencia debíamos usar? ¿Qué rasgos debíamos indagar en la entrevista? Los reclutadores dudaban en responder ellos mismos a las preguntas, pues temían que ofrecer interpretaciones personales pudiera socavar la supuesta objetividad de los resultados de la IA.

En cambio, los reclutadores intentaron automatizar la explicación. Colaboraron estrechamente con el equipo de tecnología para rediseñar los resultados de la IA, añadiendo descripciones y estándares que consideraban significativos y relevantes. Seleccionaron los grupos de referencia internos, decidieron qué rasgos de alto y bajo rendimiento debían destacarse y elaboraron preguntas de entrevista relacionadas con esos rasgos.

El resultado fue un sistema que requería menos explicaciones por parte de los reclutadores. Los responsables de contratación informaron que les resultaba más fácil comprender los resultados de la IA e incorporarlos a las entrevistas de trabajo y a las decisiones de contratación sin depender de los reclutadores para que los interpretaran.

Sin embargo, la automatización de las explicaciones generó un dilema inesperado. Cuanto más hacían los reclutadores que el sistema pareciera autosuficiente, menos visible se volvía su propia contribución. Los reclutadores seguían desempeñando un papel fundamental entre bastidores: perfeccionando los parámetros de referencia, incorporando la retroalimentación de la gerencia y rediseñando las visualizaciones. Pero una vez que esas contribuciones se integraron en la tecnología, los gerentes atribuyeron el valor a la IA en lugar de a los expertos que la habían desarrollado. La experiencia de los reclutadores, por lo tanto, seguía siendo esencial, pero cada vez quedaba menos visible y tenía menos visibilidad estratégica de la que esperaban.

Cuando los expertos complementan la IA

Una tercera respuesta se produjo en una empresa de biotecnología que estudiamos entre 2021 y 2023, donde una máquina clasificadora basada en inteligencia artificial clasificó y separó automáticamente las semillas por calidad.

Al igual que los agentes de crédito y los reclutadores, tras la introducción de la herramienta de IA, los expertos en semillas dejaron de tomar las decisiones principales. Sin embargo, a diferencia de los demás grupos, se encontraban en una posición diferente: al operar la máquina de clasificación basada en IA, podían inspeccionar los datos de imagen subyacentes, revisar las clasificaciones del sistema y colaborar estrechamente con los desarrolladores. Con el tiempo, esto les permitió desarrollar un nuevo tipo de experiencia. Al principio, los expertos en semillas a menudo no podían explicar, e incluso a veces cuestionaban, las decisiones del sistema, pero con el tiempo aprendieron a traducir las evaluaciones detalladas de las semillas realizadas por la IA en explicaciones útiles para la toma de decisiones operativas.

Esa pericia no surgió por sí sola. La empresa instaló un laboratorio de imagenología especializado junto a la planta de clasificación y proporcionó a los expertos el tiempo y las herramientas necesarias para estudiar cada semilla en detalle. De esta forma, comenzaron a comparar las clasificaciones del sistema con sus propios análisis de las semillas, descubriendo que el modelo detectaba patrones visuales sutiles que no habían utilizado previamente en sus juicios. Con el tiempo, identificaron características consistentes basadas en imágenes que ayudaban a explicar por qué el modelo clasificaba las semillas como buenas o malas. Documentaron estos patrones en bibliotecas de imágenes compartidas y desarrollaron un lenguaje común para analizarlos.

Igualmente importante, los expertos en semillas aprendieron de los gerentes de la cadena de suministro qué tipo de explicaciones eran realmente útiles para las decisiones operativas, como la planificación del envío de lotes de semillas, la decisión de si un lote debía limpiarse nuevamente y la respuesta a las preguntas de los compradores externos. La máquina de clasificación basada en IA no solo liberó a los expertos para que dedicaran más tiempo a los gerentes, sino que también les brindó a ambos grupos un nuevo objeto de aprendizaje y una herramienta para mejorar las decisiones operativas: las clasificaciones del modelo y las imágenes subyacentes de las semillas.

Posteriormente, la organización creó estructuras para respaldar este proceso. Los expertos en semillas se reunían semanalmente con los desarrolladores para incorporar sus observaciones directamente en las mejoras del modelo. Los gerentes de la cadena de suministro consultaban a los expertos a diario, y cuando estos identificaban defectos para los que el modelo nunca había sido entrenado, la empresa financiaba proyectos de investigación conjuntos para analizarlos.

Gracias a esta experiencia, los expertos en semillas podían vincular información más detallada y basada en datos, obtenida mediante IA, con resultados comerciales concretos. En lugar de mencionar vagamente "diferencias de color", podían explicar cómo un patrón específico podría provocar una germinación irregular o recomendar el método de limpieza más adecuado para preservar semillas sanas en un lote determinado. Los responsables de la cadena de suministro recurrían a estas explicaciones tanto para orientar las decisiones operativas como para justificarlas ante los compradores externos.

Cómo los líderes pueden ayudar a los empleados a explicar las decisiones relacionadas con la IA.

Nuestros hallazgos demuestran que los empleados no responden de manera uniforme a las decisiones generadas por la IA. Algunos ocultan el papel de la IA, otros la adoptan para fortalecer su propia credibilidad, mientras que otros desarrollan nuevas habilidades que complementan la IA.

Es importante destacar que estas respuestas no están determinadas únicamente por la tecnología: todos los empleados en estos casos se enfrentaron a sistemas de IA cuyas decisiones eran difíciles de interpretar y explicar. Lo que varió fueron las relaciones que los empleados mantenían con sus superiores y las estructuras organizativas que apoyaban —o limitaban— su capacidad para comprender los resultados de la IA.

Nuestra investigación sugiere tres lecciones clave para que los líderes ayuden a los empleados a desarrollar respuestas productivas a las decisiones generadas por la IA y, en última instancia, a impulsar una mejor toma de decisiones con la IA.

Crear oportunidades de aprendizaje entre los empleados y sus clientes.

Las respuestas más productivas surgieron cuando los empleados podían aprender continuamente de las personas a las que tenían que explicar las decisiones generadas por la IA.

Los reclutadores mejoraron los resultados de la IA al responder a las preguntas y críticas de los gerentes de contratación. Los expertos aprendieron qué interpretaciones ayudaban a los gerentes de la cadena de suministro a tomar mejores decisiones operativas. Por el contrario, los oficiales de crédito rara vez tenían oportunidades de aprender de sus clientes mediante interacciones puntuales. Los clientes que encontraban las decisiones confusas o insatisfactorias a menudo simplemente se marchaban, dejando a los oficiales con poca retroalimentación y escasa oportunidad de mejorar su enfoque.

Por lo tanto, los líderes deben crear oportunidades periódicas para el diálogo entre los empleados y las personas ante quienes rinden cuentas, ya sean colegas, clientes internos o externos. Talleres recurrentes, sesiones de revisión, foros de retroalimentación de clientes y reuniones interdepartamentales pueden brindar oportunidades sistemáticas para que los empleados aprendan cómo se reciben sus explicaciones y cómo pueden mejorarlas con el tiempo.

Algunas organizaciones ya han comenzado a institucionalizar estos ciclos de aprendizaje. Por ejemplo, en la Clínica Mayo, los médicos discuten las recomendaciones de diagnóstico asistidas por IA que deben explicarse a los pacientes en conferencias de casos multidisciplinarias, utilizando estas revisiones recurrentes para comparar las decisiones respaldadas por IA con los resultados clínicos y perfeccionar la forma en que interpretan y comunican los conocimientos generados por la IA en la práctica.

Redefinir la especialización en torno a la interpretación.

Cuando la IA asume la toma de decisiones clave, los empleados suelen perder la actividad mediante la cual tradicionalmente demostraban su experiencia. Por lo tanto, las organizaciones deben ayudar a los empleados a desarrollar nuevas formas de generar valor con la IA, lo que a menudo implica redefinir lo que se considera "trabajo valioso".

El caso de la biotecnología lo ilustra bien. Los expertos en semillas fortalecieron su posición no compitiendo con la IA, sino desarrollando experiencia en la interpretación de los resultados de la IA, conectándolos con los resultados comerciales y ayudando a otros a actuar en consecuencia. Su función evolucionó de tomar decisiones a darles un significado.

No basta con desarrollar dicha experiencia; también debe hacerse visible. El caso de la contratación demuestra por qué. Los reclutadores desempeñaron un papel fundamental para que los responsables de contratación comprendieran los resultados de la IA, pero su experiencia quedó invisibilizada al integrarse en la tecnología en lugar de atribuírseles a ellos mismos.

Por lo tanto, los líderes deben crear procesos organizacionales que fomenten y reconozcan la experiencia interpretativa. Pueden establecer espacios de aprendizaje, como el laboratorio de imágenes y los proyectos de investigación conjuntos en el caso de la biotecnología, para ayudar a los empleados a desarrollar y compartir conocimientos especializados. Al mismo tiempo, las organizaciones pueden reconocer y recompensar explícitamente el trabajo de interpretar, mejorar y explicar las decisiones generadas por la IA, actualizando las descripciones de puestos, las evaluaciones de desempeño y los criterios de promoción. Esto permite a los empleados crear nuevos roles que siguen siendo valiosos a medida que se expande la toma de decisiones basada en la IA.

Mantener un compromiso crítico con las decisiones de la IA.

Una última lección es que la rendición de cuentas se vuelve problemática cuando se espera que los empleados defiendan las decisiones de la IA sin poder cuestionarlas.

En el sector bancario, los responsables de préstamos justificaban habitualmente decisiones que a ellos mismos les resultaban desconcertantes. En el ámbito de la selección de personal, los responsables de contratación recurrían cada vez más a sistemas de IA cuya lógica subyacente seguía siendo difícil de comprender del todo para los reclutadores. En ambos casos, la responsabilidad de explicar las decisiones corría el riesgo de convertirse en presión para aceptarlas.

El caso de la biotecnología siguió un camino diferente. Los empleados tuvieron acceso a los datos subyacentes, oportunidades para investigar los resultados de la IA e interacciones regulares con los desarrolladores. Como resultado, pudieron identificar errores, descubrir puntos débiles y mejorar el sistema con el tiempo.

Por lo tanto, los líderes deben integrar la interacción crítica con la IA como parte fundamental del trabajo, especialmente en entornos de alto riesgo. Pueden involucrar a los empleados en el desarrollo y la evaluación de modelos, así como establecer normas, procesos y rutinas donde se espera que los empleados cuestionen, y sean recompensados, por decisiones que parezcan difíciles de justificar o inconsistentes con su experiencia.

...

El reto de la IA explicable no consiste simplemente en hacerla más transparente. Nuestra investigación demuestra que, cuando los empleados son responsables de las decisiones generadas por la IA, no se limitan a transmitir sus resultados. En cambio, los interpretan, los modifican e incluso, en ocasiones, los enmascaran activamente para proteger su credibilidad profesional y cumplir con las expectativas de las partes interesadas.

Que estas respuestas refuercen o debiliten la adopción de la IA depende de la organización que la rodea. Las organizaciones que crean oportunidades de aprendizaje, cultivan nuevas formas de conocimiento interpretativo y animan a sus empleados a cuestionar la IA cuando sea apropiado tienen muchas más probabilidades de aprovechar el valor que promete la IA explicable.

Lea más sobre Liderazgo y gestión de personas o temas relacionados como IA generativa, Gestión de riesgos, Gestión de la incertidumbre, Gestión de personas y Experimentación.

Anne-Sophie Mayer es catedrática de trabajo digital en la LMU de Múnich. Investiga cómo la inteligencia artificial y otras tecnologías emergentes están transformando la forma en que las organizaciones trabajan, se organizan y desarrollan su experiencia.

Elmira van den Broek es profesora adjunta en la Casa de la Innovación de la Escuela de Economía de Estocolmo.

Tomislav Karačić es profesor adjunto de sistemas de información en el Departamento de Gestión de la London School of Economics and Political Science, miembro afiliado del Instituto de Ciencia de Datos de la LSE y asociado de la Unidad de Religión y Sociedad Global de la LSE. Su trabajo se centra en cuestiones de conocimiento en relación con las tecnologías emergentes.