Diseñar sistemas de IA que realmente fortalezcan el razonamiento humano
Por Melchior Tamisier-Fayard, Theodoros Evgeniou y Anne-Laure Fayard
IA generativa
Harvard Business Review
#Doxa #Cognición #Sinergia #Metacognición #Razonamiento #Transparencia #Ética #Colaboración #Neurociencia #Empoderamiento #Análisis
Resumen. Las investigaciones en gestión, ciencias cognitivas e interacción persona-ordenador indican que los usuarios suelen aceptar los resultados generados por la IA sin espíritu crítico, lo que conlleva una descarga cognitiva, la erosión de la experiencia contextual y, cada vez másPensamiento homogéneo. Estos riesgos se amplifican cuando las organizaciones reducen las oportunidades para que los empleados, especialmente el personal junior, desarrollen un juicio independiente y conocimiento del dominio. En lugar de centrarse únicamente en la eficiencia, los líderes deberían diseñar sistemas y flujos de trabajo de IA que fortalezcan el razonamiento humano. Entre los enfoques prometedores se incluyen el uso de la "indicación inversa" para fomentar el cuestionamiento y el aprendizaje, la creación de espacios y etapas libres de IA dentro de los procesos de trabajo, la ejecución de análisis humanos y de IA en paralelo, y el diseño de interfaces que expongan interpretaciones alternativas en lugar de ofrecer una única respuesta autorizada. El objetivo no es limitar la adopción de la IA, sino utilizarla de forma que se preserve la autonomía humana, se profundice la experiencia y se mantenga el pensamiento diverso que las organizaciones necesitan para adaptarse, innovar y competir a largo plazo.
La mayoría de las organizaciones reconocen la importancia de contar con empleados que hagan algo más que seguir instrucciones o aplicar normas. Los pensadores críticos formulan preguntas y cuestionan las suposiciones, comportamientos que se consideran cruciales para la agilidad y la innovación organizacional. Sin embargo, cada vez hay más indicios de que el uso de la IA puede mermar esta capacidad.
Para ayudar a las empresas a abordar este problema, nos basamos en investigaciones existentes en gestión (incluidas algunas propias), ciencia cognitiva e interacciones persona-ordenador, y estudios sobre el trabajo y la tecnología en las organizaciones, junto con entrevistas a ejecutivos de empresas que experimentan con diferentes enfoques, para ofrecer un nuevo enfoque sobre el diseño, la implementación y la aplicación de la IA que fomente la diversidad de opiniones y el pensamiento crítico a largo plazo.
Las organizaciones deben centrarse en dos riesgos organizacionales principales relacionados con la erosión del pensamiento crítico: la pérdida de experiencia y la pérdida del pluralismo epistémico. Estos riesgos pueden perjudicar su capacidad para mantenerse ágiles e innovadoras. Los líderes deben reconocer que la tecnología no es neutral y que puede influir negativamente en nuestra forma de pensar e interactuar. Por lo tanto, deben mirar más allá de los beneficios a corto plazo (la promesa de eficiencia y reducción de costos, por ejemplo) y, en cambio, alentar a los usuarios a no dar por sentadas las funcionalidades de la tecnología y a experimentar para moldear la IA en lugar de ser moldeados por ella.
Cómo la IA moldea el pensamiento
Incluso antes de la explosión de la IA generativa, varios estudios, incluido el estudio etnográfico de Callen Anthony de 2021 sobre banqueros de inversión, ya habían sugerido que el fenómeno de la "caja negra", en el que los trabajadores confiaban en herramientas analíticas sin comprenderlas, podría provocar que los profesionales perdieran su experiencia. Más recientemente, algunos estudios han sugerido que el uso de la IA puede comprometer la capacidad de las personas para cuestionar la información que reciben, lo que genera preocupación por la descarga cognitiva, o incluso la rendición cognitiva. Un estudio del MIT Media Lab de 2025 que investigaba los costes cognitivos del uso de un máster en Derecho (LLM) y un estudio de Wharton de 2026 sobre el impacto de la introducción de la IA como tercer sistema cognitivo indican que las personas que utilizan IA son reacias a cuestionar e investigar los resultados de la IA. Si bien el impacto a largo plazo en la cognición aún está por determinarse, esta investigación sí pone de manifiesto claros indicios de que el uso de la IA afecta a las capacidades organizativas.
Para empezar, a muchos investigadores les preocupa que el uso de la IA conduzca a una descontextualización del conocimiento en las organizaciones. El argumento es que, si bien la IA puede acceder fácilmente a hechos y datos, no puede interpretar ni aplicar el conocimiento de manera significativa y contextualizada. Los datos suelen contener matices que solo pueden ser reconocidos por personas con intuición, emoción y experiencia vivida en múltiples áreas de especialización. Vemos cosas en los datos porque tenemos experiencia directa con ellos y el contexto en el que los entendemos. Dado que la IA es un algoritmo y no experimenta los datos directamente, pasa por alto los matices.
Por ejemplo, el hecho de que una IA pueda aprobar un examen de abogacía no indica que comprenda todos los matices del sistema judicial, sus actores, cómo se registran los distintos casos de manera diferente y por qué, ni cómo se relacionan otras formas de pericia jurídica con el derecho. Esta descontextualización de la pericia jurídica introduce riesgos, ya que, sin comprender tanto el caso específico como un sistema judicial complejo, los abogados que confían en la pericia de la IA pueden malinterpretar las pruebas y cometer errores.
De hecho, un estudio reciente sugiere que la dependencia de la IA aumenta la importancia de contar con personas que, gracias a su experiencia en el sector, puedan validar los resultados de la IA, adaptarse a nuevas situaciones y planificar posibles problemas. Otra preocupación es que, a medida que las organizaciones reducen los puestos de nivel inicial para disminuir costos, corren el riesgo de perder en un futuro próximo al grupo de gerentes intermedios en cuyo conocimiento contextual se basan actualmente.
Además, la IA fomenta el pensamiento homogéneo. Diversos estudios han demostrado que los modelos de pensamiento lógico tienden a reducir la diversidad de ideas, en parte porque suelen centrarse en la primera idea generada y presentan una tendencia a la media. Esto lleva a los usuarios a ignorar información sorprendente o imprevista, a pesar de que es precisamente lo inesperado lo que genera ideas creativas. Por lo tanto, el uso generalizado de la IA conduce al desarrollo de monoculturas que carecen de la diversidad de experiencias y perspectivas esenciales para la capacidad de innovación de las organizaciones. También puede afectar la agilidad de las empresas, ya que las personas son más propensas a pasar por alto las señales del entorno que invitan al cambio.
¿Cómo podemos controlar los riesgos? Existe una amplia y extensa bibliografía sobre el trabajo y la tecnología en las organizaciones que ofrece posibles respuestas. En concreto, esta bibliografía concibe la tecnología como algo siempre interpretado y contextual, adaptable a las necesidades de los usuarios.
Cómo los humanos pueden dar forma a la IA
Las narrativas actuales sobre la IA generativa tienden a presentarla como una herramienta única con una interfaz de chatbot que las personas consultan para obtener una respuesta (véase, por ejemplo, aquí y aquí ). Hacen hincapié en que, para obtener mejores respuestas, necesitamos aprender a formular mejores preguntas y usarla con mayor frecuencia. No hay nada de malo en aprender a hacer mejores preguntas, pero esto no reducirá sustancialmente los riesgos. Para ello, debemos tratar la tecnología no solo como una herramienta, sino como parte de un sistema que los humanos pueden moldear. Y eso significa encontrar maneras de diseñar entornos de trabajo habilitados por IA que preserven la autonomía y el liderazgo humanos.
Basándonos en los resultados de la experimentación con IA y otras tecnologías realizada por organizaciones que hemos estudiado o con las que hemos trabajado, presentamos tres posibles maneras de lograrlo.
Darle un giro radical a la IA.
El filósofo griego Sócrates solía hacer preguntas a sus seguidores para guiarlos a encontrar por sí mismos la respuesta a un problema filosófico; o, en algunos casos, para que admitieran su ignorancia. Este enfoque se puede utilizar con la IA. Consideremos dos ejemplos:
El reto "Prompt with Me": Lanzado por la gran farmacéutica Astra Zeneca en agosto de 2025, este programa de 10 días compuesto por ejercicios breves fue diseñado para alentar a los empleados a experimentar con la IA para desarrollar su capacidad de pensamiento crítico. Más de 1500 participantes de toda la empresa aprendieron no solo a formular preguntas, sino, más importante, cómo formularlas de manera que les permitiera aprender más y profundizar. Los comentarios de los participantes ilustraron cómo el desafío ayudó a replantear la relación con la IA: "este enfoque sacó a la luz nuevos ángulos, desafió mis suposiciones e inspiró la autorreflexión para cualquier conversación futura", señaló uno de los participantes. En una entrevista con nosotros, la Dra. Bonnie Cheuk, Directora Global de Desarrollo de Capacidades de AstraZeneca, y el Dr. Maciej Szymaszek, Director de Estrategia e Innovación de IA Empresarial, explicaron que "el desafío... se extendió rápidamente por toda la organización, con equipos y departamentos participando y personalizándolo aún más para diferentes flujos de trabajo, funciones y herramientas de IA". El piloto original de 2025 ganó un premio Brandon Hall de plata. Hoy, un año después de su lanzamiento, Prompt with Me ha sido adoptado por más de 50 equipos y departamentos, y miles de personas han completado los retos.
El hackatón BUILD2GETHER AI–SDG: Hace unos meses, un equipo de investigadores de ETH Zúrich y NTU Singapur experimentó con el uso de la IA en un hackatón de 24 horas (organizado en Sairam Institutions) con cerca de 2000 participantes en casi 500 equipos. Los equipos recibieron distintos tipos de retroalimentación de la IA sobre las propuestas presentadas para proyectos que ayudarían a la ONU a alcanzar sus Objetivos de Desarrollo Sostenible. La mitad de ellos recibió retroalimentación sobre cómo mejorar sus ideas para alcanzar y ajustarse mejor a los objetivos predefinidos. La otra mitad recibió retroalimentación que identificaba redundancias entre sus propuestas y proyectos que ya estaban en marcha, animándolos a experimentar con ideas alternativas. El equipo de investigación descubrió que cuando la IA desafió a los participantes del segundo grupo a cuestionar las propuestas y ayudar a distinguir qué elementos eran novedosos de los ya existentes, estos equipos generaron una gama más amplia de ideas más innovadoras.
Comprender el lugar y el momento adecuados para utilizar la IA.
Al establecer un marco de gobernanza de la IA, las empresas se centran en optimizar dónde pueden implementarla. En cambio, deberían considerar dónde y cuándo no se debería usar la IA. Sugerimos que los líderes:
Crea un espacio libre de IA para pensar con libertad: Esta estrategia se inspira en iniciativas anteriores para abordar la sobrecarga de correo electrónico. Por ejemplo, en 2007, Intel realizó un programa piloto con un grupo de ingenieros para combatir la sobrecarga de información que sufrían sus empleados. Durante este programa, se les animó a evitar el correo electrónico un día a la semana. (Siguieron el ejemplo de otras empresas como Deloitte o US Cellular, que también habían experimentado con un día o una semana sin correo electrónico).
De manera similar, las organizaciones y los gerentes pueden alentar a las personas a no usar herramientas de IA genéricas durante bloques de tiempo específicos o proporcionarles "interfaces restringidas que desbloquean la asistencia solo después de que el usuario ingrese su propio contexto", como sugieren Chengwei Liu y sus colegas en un artículo reciente de HBR. Otro grupo de investigadores informó cómo una operadora de telecomunicaciones australiana que estudiaron exigió a los gerentes de nivel medio que participaran en "sesiones de estrategia sin IA" antes de usar herramientas de IA, obligándolos primero a generar ideas para planes estratégicos basados en su propio criterio y experiencia.
Centro de la agencia humana: La omnipresencia de la tecnología en las estrategias actuales de desarrollo y crecimiento puede, en ocasiones, influir tanto en las decisiones y la estructura de una organización que su uso se da por sentado. Para garantizar que los humanos puedan moldear la tecnología, es fundamental brindar a los empleados, especialmente a los principiantes, la oportunidad de desarrollar experiencia y conocimiento contextual, al exigirles que trabajen en tareas específicas sin herramientas de IA. Pensemos en los banqueros jóvenes estudiados por Callen Anthony. Descubrió que aquellos que aprendieron a comprender el proceso mediante la práctica eran más capaces de realizar el trabajo. Tenían mayor probabilidad de detectar errores y sugerir alternativas.
Comprender el proceso no es crucial solo para los puestos junior. También es importante para los gerentes intermedios y senior. Anthony también observó diferencias entre los banqueros senior: un grupo consideraba la tecnología algorítmica únicamente como una herramienta para generar resultados, lo que debilitaba su experiencia, mientras que otro grupo comprendía las diferentes tecnologías utilizadas y cómo estas influían en su trabajo. Estos últimos lograron profundizar sus conocimientos y colaborar de manera significativa con los analistas junior, pidiéndoles que justificaran su elección de herramientas y que explicaran los supuestos y cálculos más allá de las cifras que presentaban.
A nivel organizativo, diversos estudios sobre tecnología y trabajo han demostrado que la implementación efectiva de nuevas tecnologías implica rediseñar los procesos laborales aprovechando el conocimiento de los trabajadores. De hecho, este enfoque se observa en un informe de expertos patrocinado por el Ministerio de Trabajo español, que subraya la importancia de involucrar a los trabajadores de las empresas en los diálogos sobre la implementación de la IA.
Procesar en paralelo: En ciertas situaciones, puede resultar útil que la IA y un equipo humano realicen la misma tarea de forma independiente y paralela. Posteriormente, el equipo y la IA pueden combinar ambas para obtener un resultado híbrido. Por ejemplo, With Company, una consultora de diseño transformadora con sede en Lisboa, ha estado experimentando con el procesamiento paralelo en proyectos estratégicos y creativos.
En un experimento inicial realizado en 2024 con una empresa emergente, dos equipos trabajaron en paralelo en el mismo desafío de marca: uno con un proceso de diseño más tradicional y otro con un fuerte apoyo de flujos de trabajo con IA. El equipo con IA generó cerca de 1700 imágenes antes de llegar a una propuesta final, ampliando drásticamente el abanico de posibilidades y acelerando la divergencia. El equipo humano produjo menos propuestas, pero con mayor coherencia, narrativas más definidas y un contexto más preciso desde el principio.
Finalmente, se seleccionó la propuesta del equipo humano, pero la lección más importante para With Company fue que el procesamiento paralelo reveló diferencias en las fortalezas relativas de la IA y los equipos humanos en las distintas etapas del proceso creativo. La IA demostró ser útil para la transcripción, la síntesis, la exploración rápida y la ampliación de posibilidades, mientras que la conceptualización, la priorización y el juicio seguían dependiendo en gran medida de la interpretación humana y la comprensión del contexto. Desde entonces, With Company ha continuado experimentando con el procesamiento paralelo en múltiples proyectos.
Prueba con diferentes interfaces.
Muchos modelos de IA de última generación y LLM se basan en el diseño de chatbot, que permite una interacción de "pregunta y respuesta" en la mayoría de los contextos. Su respuesta suele ser un extenso texto que obliga al usuario a leer puntos clave y a buscar la respuesta que necesita. Sin embargo, este tipo de interfaz no es adecuada para todas las situaciones. A menudo, la interfaz del chatbot se convierte en una "conversación" confusa, donde, por ejemplo, un texto extenso y resumido generado por la IA es simplificado, reestructurado y reinterpretado por un empleado de oficina abrumado por la enorme cantidad de información. La IA de última generación refuerza entonces esa confusión al responder a la reinterpretación de una manera que imita estructuralmente la respuesta del empleado.
La investigación en interacción persona-ordenador ha puesto en tela de juicio la idea de que la única interfaz de un ordenador sea el teclado y el ratón. Del mismo modo, podemos cuestionar que la IA sea simplemente un chatbot. Un estudio reciente propone abandonar la «interfaz de usuario sin fricciones» y sustituirla por una que comparta datos brutos y presente evidencias contrapuestas, obligando al usuario a comprender y reflexionar sobre las alternativas propuestas.
La evidencia empírica sugiere que las interfaces complejas como esta funcionan bien en contextos como las matemáticas o la programación, donde los usuarios ya son expertos. Google, por ejemplo, señaló que las interfaces de chat actuales no soportaban el complejo proceso multidimensional e iterativo que implica la investigación matemática. Para subsanar esta deficiencia, desarrolló el " Co-matemático con IA ", una herramienta con una interfaz flexible que ayuda a los matemáticos a desarrollar sus flujos de trabajo y les asiste en la verificación de demostraciones y la detección de errores. Puede brindar un mejor soporte al proceso matemático iterativo al proporcionar un sistema de anotaciones que visualiza los diferentes pasos del razonamiento y hace que el proceso de razonamiento sea más visible. Herramientas como esta demuestran que la IA ya no tiene por qué ser el chatbot genérico que vemos y usamos actualmente.
...
A medida que la IA se implementa en las organizaciones, los gerentes deben ir más allá de la euforia inicial y adoptar una visión holística y equilibrada de su uso. Para que sus empleados se conviertan en productores activos de conocimiento, es fundamental que las organizaciones experimenten estratégicamente con la IA, identificando así cómo utilizarla para apoyar el trabajo, preservar la experiencia y fomentar el pensamiento diverso. La IA debe empoderar a las personas, no reemplazarlas.
Lea más sobre IA generativa o temas relacionados: IA y aprendizaje automático, gestión y toma de decisiones y resolución de problemas.
Melchior Tamisier-Fayard es investigador independiente y futuro estudiante de doctorado en Gestión y Comportamiento Organizacional en la escuela de negocios ESSEC en Francia.
Theodoros Evgeniou es profesor en INSEAD y cofundador de la empresa de confianza y seguridad Tremau y de la consultora de IA NoesysAI.
Anne-Laure Fayard es catedrática titular de la cátedra ERA de Innovación Social en la Nova School of Business and Economics de Lisboa, Portugal, y profesora visitante de investigación en la Universidad de Nueva York.
