Doxa 2611

La inteligencia artificial está socavando el criterio de los líderes. Esto es lo que se puede hacer al respecto.

Las herramientas diseñadas para mejorar tu capacidad de tomar decisiones podrían terminar debilitándola

Por Leonid Sudakov y Nathan Furr

Toma de decisiones y resolución de problemas

Harvard Business Review

#Doxa #TomaDeDecisiones #SesgoCognitivo #DependenciaTecnológica #PensamientoCrítico #Automatización #SobrecargaCognitiva #Autonomía #InfluenciaAlgorítmica #JuicioHumano #ParadojaDeLaElección

Resumen. A medida que las organizaciones adquieren mayor “inteligencia” con herramientas de IA, los líderes están perdiendo la capacidad que genera la ventaja competitiva: el juicio original. Dos capacidades interrelacionadas dan forma a la habilidad de un líder para producir. Pensamiento original: amplitud de percepción (detectar señales débiles y patrones adyacentes más allá de lo evidente) e independencia de interpretación (formar una opinión propia en lugar de someterse a la del modelo o del grupo). Las organizaciones pueden proteger el juicio adoptando dos prácticas: curiosidad estructurada y disidencia intencional.

Un informe reciente de investigadores de Harvard que estudian la innovación reveló un patrón preocupante. Para comprobar cómo la IA influye en el juicio humano, los investigadores realizaron un experimento de campo en el que pidieron a 228 evaluadores experimentados que valoraran 48 propuestas presentadas a un concurso global de innovación con impacto social del MIT. Los investigadores probaron tres condiciones: 1) evaluaciones realizadas únicamente por humanos; 2) evaluaciones de LLM con una explicación narrativa del proceso de toma de decisiones; y 3) evaluaciones de LLM sin contexto adicional. Posteriormente, compararon las decisiones de los evaluadores con las de cuatro expertos vinculados al concurso de innovación.

Lo que descubrieron fue sorprendente: cuando la herramienta de IA animaba a los evaluadores humanos a rechazar las propuestas aprobadas por el panel de expertos, estos, en general, seguían esas recomendaciones, descartando innovaciones con gran potencial. Es más, eran menos propensos a anular una recomendación incorrecta de la IA cuando se les ofrecía una explicación narrativa. En lugar de mejorar el criterio de los evaluadores, la explicación narrativa lo empeoraba.

Este hallazgo no es un caso aislado. Investigaciones recientes a gran escala demuestran que las herramientas inteligentes destinadas a mejorar el juicio, en algunos casos, están erosionando la capacidad misma que apoyan.

En un momento en que el criterio se está convirtiendo en un factor diferenciador competitivo cada vez más importante, esto debería hacer reflexionar a los líderes. He aquí qué pueden hacer para protegerlo.

La paradoja del juicio original

Durante una década, las organizaciones han invertido masivamente en infraestructura de apoyo a la toma de decisiones, prometiendo decisiones cada vez mejores. Sin embargo, está surgiendo una paradoja: a medida que las organizaciones adquieren más "inteligencia", sus líderes están perdiendo la capacidad que genera la ventaja competitiva: el juicio original. Por juicio original entendemos la capacidad exclusivamente humana de ver más allá de la narrativa dominante y tomar decisiones que representen los propios valores en situaciones de incertidumbre. Este juicio original subyace a casi todas las historias de ventaja competitiva: Sam Walton ignorando la sabiduría popular de que no se puede construir una tienda de descuento en una ciudad de menos de 50 000 habitantes, Steve Jobs integrando la caligrafía  en la computadora personal, o Jensen Huang apostando por la emulación de hardware no probada para acelerar radicalmente la creación de prototipos en Nvidia.

Dos capacidades interrelacionadas dan forma a la habilidad de un líder para generar pensamiento original: la amplitud de percepción (detectar señales sutiles y patrones adyacentes más allá de lo evidente) y la independencia de interpretación (formar una opinión propia en lugar de someterse a la del modelo o del grupo). En nuestro trabajo sobre el juicio de liderazgo, hemos llegado a considerar estas capacidades no como rasgos de personalidad o destellos de genialidad, sino como mecanismos observables que explican por qué algunos líderes detectan puntos de inflexión y actúan con convicción, mientras que otros, igualmente inteligentes, optan por la conformidad.

En resumen, el criterio original es lo que distingue los avances estratégicos de la eficiencia operativa, y a medida que los sistemas inteligentes se extienden por los consejos de administración, esa capacidad se está erosionando precisamente donde más importa.

Basándonos en las investigaciones emergentes sobre la descarga cognitiva y el sesgo de automatización, observamos que el juicio original se erosiona a través de un proceso de tres etapas. Comienza con la descarga cognitiva, ya que los líderes dependen cada vez más de datos, un cambio que ahora es visible incluso a nivel neuronal, donde la fuerte dependencia de herramientas generativas se correlaciona con un compromiso notablemente menor, y que puede profundizarse hasta adoptar las respuestas de la IA con poco escrutinio. Lo que sigue es la sumisión a las herramientas, ya que las personas confían en una " autoridad algorítmica " que no comprenden del todo, confiando en resultados cuya lógica no pueden ver. Las investigaciones sobre profesionales que trabajan con tecnologías analíticas han demostrado que esto puede socavar la experiencia que las herramientas estaban destinadas a ampliar. Esta sumisión, a su vez, crea una monocultura organizacional sustentada en las mismas métricas, modelos y narrativas derivadas de las herramientas.

La cuestión no es si los líderes deberían aprovechar la IA y los datos —deberían—. Pero los sofisticados sistemas de apoyo a la toma de decisiones están entrenando a los líderes para postergar, no para tomar la iniciativa.

Paralelamente a la creciente literatura sobre diseño que se pregunta cómo construir IA que fomente un pensamiento más profundo, abordamos una cuestión previa: cómo los líderes cultivan el juicio que ninguna interfaz puede proporcionar. Inspirándonos en cómo los avances científicos trascendentales superaron el consenso arraigado de su época —similar a la deferencia que ahora enfrentamos con los sistemas inteligentes—, extrajimos dos prácticas que los líderes pueden desarrollar deliberadamente: la curiosidad estructurada y la disidencia intencional.

Curiosidad estructurada

A finales de la década de 1960, la malaria se había vuelto resistente a la cloroquina, y los programas farmacéuticos occidentales, tras haber analizado cientos de miles de compuestos, habían agotado sus candidatos plausibles. Tu Youyou, química sin doctorado de la Academia de Medicina Tradicional China, decidió buscar donde nadie más lo hacía. Examinó minuciosamente 2000 textos antiguos, identificó el ajenjo dulce y, tras unos primeros ensayos decepcionantes, observó un detalle en un manuscrito del siglo IV: extraer la planta a temperatura ambiente en lugar de hervirla. Esa decisión la llevó al descubrimiento de la artemisinina, ahora piedra angular del tratamiento mundial de la malaria.

Tu practicaba lo que llamamos curiosidad estructurada: recopilación disciplinada de información de ámbitos marginales, organización de señales débiles y suspensión deliberada del cierre prematuro cuando se agota el flujo dominante de ideas.

En las organizaciones, esta es la diferencia entre decir «sé curioso» y diseñar para fomentar la curiosidad. Sin estructura, la curiosidad se desvanece ante la presión del tiempo, los incentivos y la monocultura. Recomendamos el método CAST para crear mecanismos que apoyen una curiosidad estructurada.

Recoger desde los bordes.

Los líderes no necesitan más datos, sino datos más diversos: casos extremos, señales débiles, fuentes inusuales, porque la precisión de las predicciones depende menos del volumen que de la variedad. Recopilar información de los extremos implica diseñar flujos de trabajo para entradas no evidentes: clientes atípicos, quejas y cuasi accidentes, disciplinas adyacentes, de modo que las anomalías salgan a la luz antes de que los sistemas las promedien.

Organizar señales dispares.

Las anomalías intrínsecas parecen ruido hasta que un líder impone una estructura; los mejores estrategas triunfan no por saber más, sino por organizar su conocimiento en estructuras que permiten transferir soluciones entre diferentes ámbitos. En la práctica, organizar señales dispares implica identificar maneras sencillas y sistemáticas de yuxtaponerlas —mapas temáticos, diagramas de incidentes recurrentes, bibliotecas de casos con ejemplos extremos— para que los líderes analicen patrones en lugar de reaccionar ante sorpresas aisladas.

Suspender el cierre prematuro.

Bajo la presión del tiempo, los líderes tienden a simplificar la ambigüedad, recurriendo a narrativas conocidas o recomendaciones preestablecidas. Suspender el cierre prematuro protege un intervalo en el que pueden surgir alternativas antes de que se consolide un marco de referencia. Prácticas como «discrepar antes de comprometerse» —que protegen el debate antes de la conclusión, superando la deferencia a la antigüedad, el consenso o el algoritmo— evitan el cierre prematuro.

Provocar interpretaciones alternativas.

Planes sencillos de tipo "si-entonces", que vinculan una señal con una respuesta, aumentan las probabilidades de que los líderes actúen basándose en la reflexión previa en lugar de la costumbre, convirtiendo la curiosidad en una práctica incluso bajo presión. Para los líderes, activar interpretaciones alternativas implica transformar esas señales en un conjunto de reglas concretas de tipo "si-entonces" que se activan en decisiones reales, dando a los patrones la oportunidad de reconfigurar las opciones antes de que la sumisión se imponga.

Organizar para fomentar la curiosidad estructurada.

La curiosidad individual no basta si la estructura organizacional acostumbra a las personas a la postergación. Una empresa global con la que uno de nosotros colaboró ​​—una experiencia que contribuyó a dar forma a CAST— integró la curiosidad estructurada en su proceso de desarrollo de futuros líderes.

Ante la transformación de la producción a gran escala a un ecosistema centrado en la salud, la empresa implementó un programa deliberadamente incómodo: 15 líderes de alto potencial, divididos en cinco equipos heterogéneos de tres personas, recibieron un desafío complejo fuera de su especialidad y dedicaron un día a la semana durante nueve meses a realizar experimentos en vivo sin una solución predeterminada. El objetivo no era encontrar las respuestas correctas, sino un camino original. La acogida fue mixta, con entusiasmo y temor, pero la incomodidad generó una confianza inusual, y a lo largo de cinco años se convirtió en el enfoque distintivo de la empresa para el desarrollo del liderazgo.

Disidencia intencional

Durante décadas, el consenso científico atribuyó las úlceras pépticas al estrés y al ácido; la idea de que las bacterias pudieran sobrevivir en el estómago se consideraba ridícula. El patólogo Robin Warren seguía encontrando bacterias espirales en las biopsias gástricas. Si bien la mayoría de sus colegas las descartaban, su primera aliada fue su esposa, Win, una enfermera titulada que lo animó a perseverar. Cuando Barry Marshall, un médico en formación, se unió al equipo de investigación de Warren, crearon una red de disidencia deliberada: siguieron a 100 pacientes, luego buscaron la colaboración de investigadores de campos afines para que criticaran sus métodos y publicaron sus primeros artículos en foros escépticos.

Esa red logró dos cosas: reforzó la evidencia —la serie de 100 pacientes y la crítica metodológica externa dificultaron el rechazo de los hallazgos— y, fundamentalmente, impulsó el debate en campos afines más receptivos que el núcleo escéptico de la gastroenterología. Microbiólogos y epidemiólogos, menos apegados a la ortodoxia del estrés y la acidez, pudieron evaluar la evidencia bacteriana por sus propios méritos. Su creciente respaldo otorgó al argumento una credibilidad que sus autores no habrían podido generar por sí solos.

Durante más de una década, el apoyo que habían cultivado de forma discreta modificó el consenso hasta que los organismos que elaboran directrices aceptaron a Helicobacter pylori como la causa principal de la mayoría de las úlceras.

La lección no reside simplemente en que la disidencia pueda tener razón, sino en que rara vez sobrevive lo suficiente como para ponerse a prueba sin un refuerzo social deliberado. La mayoría de las disidencias fracasan no porque la idea sea débil, sino porque sus autores se aíslan antes de que se puedan acumular pruebas.

En las organizaciones influenciadas por la IA, el problema se agrava. Los resultados del sistema presentan una apariencia de objetividad que hace que cualquier desacuerdo parezca irracional, por lo que los líderes aprenden que es más seguro alinearse que cuestionar.

Preservar el juicio original significa tratar la disidencia como una capacidad que se puede cultivar, a través de tres elementos, lo que denominamos el método RED.

Reclutar perspectivas independientes.

La disidencia rara vez surge espontáneamente en grupos de liderazgo homogéneos, conformados en torno a la experiencia funcional y la afinidad cultural; cualidades que fortalecen la alineación pero reducen la diversidad interpretativa. Sin embargo, las investigaciones sobre la influencia de las minorías demuestran que incluso una sola voz independiente amplía la forma en que los grupos procesan la información. Para los líderes, reclutar perspectivas independientes significa incorporar deliberadamente a personas cuya disciplina o estilo cognitivo difiere del del grupo dominante. Se busca diversidad de interpretación, no solo de identidad.

Involucrarse mediante desafíos estructurados.

Reclutar voces diversas es solo el primer paso; sin una participación estructurada, el cuestionamiento se convierte en una mera actuación: una defensa ritualizada del diablo que refuerza la narrativa dominante. En las organizaciones, participar mediante un cuestionamiento estructurado implica incorporar mecanismos como los análisis retrospectivos de decisiones, que examinan cómo podrían fallar las suposiciones predominantes antes de que se consoliden como consenso.

Es necesario mantener un diálogo a lo largo del tiempo.

La disidencia es una habilidad social que se practica, no una postura moral. Mantener el desacuerdo implica resistir sin perder la confianza que hace posible la influencia. Bien gestionado, el diálogo sostenido a lo largo del tiempo transforma la fricción en una competencia por la originalidad: los líderes ensayan cómo expresar una opinión minoritaria, ajustan el tono y el momento oportuno, y ponen a prueba sus argumentos en un espacio ajeno a la política. Significa cultivar pequeños círculos de colaboradores de confianza que cuestionen sus suposiciones —y hacer lo mismo a cambio— para que, cuando sea necesario, la disidencia se perciba menos como una excepción heroica y más como un hábito natural.

Organizarse para la disidencia intencional

Dos empresas globales con las que hemos colaborado crearon redes de asesoramiento que funcionan como entornos protegidos para la disidencia. En lugar de depender de los procesos de la junta directiva o la alta gerencia —donde las dinámicas de poder y los incentivos profesionales limitan el desacuerdo—, convocaron a pequeños grupos de expertos externos, ajenos a las líneas jerárquicas, cuya tarea no era proporcionar respuestas, sino poner a prueba la lógica y plantear alternativas antes de que fuera seguro plantearlas en las salas de juntas.

Con el tiempo, las sesiones se convirtieron en un campo de entrenamiento más que en un escenario de competencia. Los líderes llegaban con dilemas reales y dudas genuinas, y los asesores pasaron de preguntas corteses a críticas directas de proyectos favoritos. Un director ejecutivo de división pidió traer a todo su grupo de colegas simplemente para que fueran desafiados rigurosamente sin que nadie los evaluara.

Así es como se organiza la disidencia: no se espera a que surja la valentía en una revisión de alto riesgo; se construye una arquitectura social donde los líderes practican plantear puntos de vista contrarios, de modo que el consenso sobreviva a la fricción real en lugar de a una alineación artificial.

Liderando más allá de la era de la deferencia

En cada época, los avances revolucionarios han dependido de personas dispuestas a ejercer un juicio original frente a dogmas establecidos. Lo que define sus logros no es la rebeldía, sino la capacidad disciplinada de ver más allá del modelo disponible y mantener esa perspectiva hasta que la realidad se imponga. La tarea del liderazgo no consiste en elegir entre humanos y máquinas, sino en construir deliberadamente prácticas —como la curiosidad estructurada y la disidencia intencionada— que mantengan la originalidad humana lo suficientemente fuerte como para superar sistemas cada vez más persuasivos.

Lea más sobre Toma de decisiones y resolución de problemas o temas relacionados: Toma de decisiones organizacionales, IA y aprendizaje automático, Tecnología y análisis y Automatización.

Leonid Sudakov es cofundador de Marren, una consultora de liderazgo centrada en la creatividad y la innovación en la era de los sistemas inteligentes. Cuenta con 25 años de experiencia en puestos ejecutivos, donde ha supervisado el crecimiento, los emprendimientos y la transformación digital en empresas de consumo globales, como Mars, Danone y PepsiCo.

Nathan Furr es profesor de estrategia en INSEAD y coautor de cinco libros superventas, entre ellos The Upside of Uncertainty: A Guide to Finding Possibility in the Unknown (Harvard Business Review Press, 2022) y The Innovator's Method: Bringing the Lean Startup into Your Organization (Harvard Business Review Press, 2014).