Doxa 2101

El valor irreemplazable de la toma de decisiones humana en la era de la IA

Cinco formas en que las organizaciones pueden codificar y fomentar las habilidades que les brindarán una ventaja competitiva.

Por Martin Reeves, Mihnea Moldoveanu y Adam Job

Inteligencia artificial y aprendizaje automático

Harvard Business Review

#Doxa #IA #organización #decisión #humana #artificial #inteligencia #ventaja #era #competitiva #aprendizaje #automático

Resumen. El auge de la IA presenta una oportunidad para que los humanos afrontemos el desafío de refinar, enfatizar y aplicar nuestras propias fortalezas humanas para diferenciar la toma de decisiones corporativa. Sin embargo, las capacidades humanas, como la formulación de juicios morales y el uso de la imaginación o la intuición, a menudo no se entrenan, son impulsivas o implícitas. Por lo tanto, para distinguir y mejorar sus procesos de toma de decisiones, las organizaciones deben codificar y fomentar activamente las habilidades humanas necesarias para la toma de decisiones. En este artículo se describen cinco imperativos para lograr este fin.

El rápido avance de la IA ha despertado el entusiasmo por su potencial para revolucionar la toma de decisiones corporativas al sustituir a los costosos y falibles humanos. Pero es ingenuo creer que reuniendo cada vez más datos y alimentándolos con algoritmos cada vez más potentes, las empresas pueden descubrir la verdad, tomar las decisiones correctas y crear valor. A esta falsa creencia la llamamos “dataísmo”.

Las decisiones no son meros ejercicios de agregación de datos y análisis algorítmico. Implican necesariamente muchos otros elementos matizados, como la selección de fuentes de datos fiables, el uso de la imaginación para prever posibilidades más allá de los datos disponibles y la evaluación de la viabilidad de las soluciones. Se trata de áreas en las que los seres humanos tienen ventajas innatas sobre las máquinas. Fundamentalmente, implican capacidades humanas implícitas y a menudo no entrenadas.

Consideremos el caso de Kodak y Fuji. Ambas empresas tenían acceso a los mismos datos que indicaban el auge de la fotografía digital y los evaluaron con los mismos objetivos de maximizar el crecimiento y la rentabilidad. Aun así, llegaron a decisiones diferentes : Kodak redobló la apuesta por sus productos analógicos, mientras que Fuji se diversificó, invirtiendo en tecnologías digitales y buscando otras opciones como la cosmética, que en conjunto eran suficientes para asegurar su supervivencia. Los mismos datos inspiraron otra decisión para Sony, que, como competidor en el mercado, vio el auge de la fotografía digital como una oportunidad que valía la pena aprovechar.

Esta divergencia subraya que las decisiones dependen de la interpretación, el contexto y el marco estratégico, áreas en las que el juicio humano seguirá siendo crucial.

Una visión holística de la toma de decisiones

Basándonos en nuestra experiencia con la toma de decisiones corporativas, así como en la literatura sobre ciencia de la decisión (por ejemplo, de los sectores militar, sanitario e I+D ), hemos identificado ocho dimensiones más allá de los datos y los algoritmos que influyen en la mayoría de las decisiones, aunque a menudo de forma implícita. Se pueden entender con un ejemplo sencillo: la compra de un coche.

1. Definir el objetivo final.

En última instancia, cada decisión tiene un fin humano. Especificar esto es fundamental para entender cómo podría ser el éxito. El fin humano para un comprador de automóviles puede ser demostrar su estatus con un vehículo de lujo o garantizar que sus hijos tengan un medio seguro para viajar de ida y vuelta a la escuela.

Las empresas también tienen objetivos finales (que pueden variar considerablemente, desde lograr prosperidad económica hasta contribuir a la sociedad o proteger el medio ambiente). Dada la subjetividad de los valores humanos, la definición del fin humano no puede delegarse en la inteligencia artificial.

2. Enmarcar los objetivos inmediatos.

Para alcanzar su objetivo final, a menudo debe tomar decisiones más pequeñas, más inmediatas y tangibles a lo largo del camino. En nuestro ejemplo de compra de un automóvil, el objetivo final puede ser comprar un vehículo que cumpla con ciertas normas de seguridad, pero también desea asegurarse de que el automóvil se ajuste a un presupuesto determinado. Para una empresa, el objetivo final puede ser lograr un crecimiento de ventas del 10% con respecto al año anterior, pero también debe asegurarse de que la optimización del crecimiento de las ventas a corto plazo no comprometa la reputación de la marca a largo plazo.

Este tipo de marco de decisión no puede derivarse únicamente de datos y herramientas analíticas, ya que implica equilibrar las preferencias individuales y colectivas. La participación humana es crucial para identificar estos objetivos y equilibrarlos. Muy a menudo, es necesario perfeccionarlos mediante interacciones iterativas, ya que los humanos suelen descubrir "lo que realmente quieren" al perseguir un objetivo y realizar ajustes a medida que descubren nuevas características y nuevas fuentes de valor.

3. Trazando el reino de lo posible.

Una vez definidos los objetivos, llega el momento de identificar las posibles opciones. Si bien los datos son un insumo crucial para este paso, por lo general no cuentan la historia completa. Los datos son retrospectivos, pero las decisiones humanas a menudo se basan en contrafácticos: qué podría suceder y cómo podríamos influir en la probabilidad de que se den las diferentes posibilidades.

La imaginación humana es fundamental para ampliar el ámbito de lo posible. Por ejemplo, si la necesidad de un comprador de coche es un trayecto corto al trabajo, es posible que considere alternativas como el transporte público, los servicios de transporte compartido o los patinetes eléctricos.

Todas las empresas se construyen a partir de un acto de imaginación. Por ejemplo, los fundadores de Airbnb imaginaron una plataforma en la que los propietarios pudieran alquilar habitaciones libres, lo que puso fin a la creencia de las principales empresas hoteleras de que había que construir o poseer los alojamientos que se ofrecían a los clientes. Esta idea no surgió del análisis de datos hoteleros existentes, sino de seres humanos que imaginaron cómo podrían abordar la necesidad de alojamiento asequible.

4. Selección de fuentes de datos.

Para evaluar las opciones se puede utilizar información relevante. Pero, aunque la palabra datos deriva del latín “datum” (algo que se da), es necesario crear datos: capturarlos, filtrarlos, seleccionarlos, interpretarlos y corregirlos, una tarea que requiere capacidad y discernimiento humanos.

Debemos evitar la trampa de centrarnos únicamente en datos que nos han sido facilitados o que son de fácil acceso. En el caso de la compra de un coche, confiar únicamente en los datos de eficiencia de combustible proporcionados por el fabricante puede no ofrecer una visión completa. Complementar esto con análisis independientes del rendimiento en el mundo real puede llevarnos a tomar una decisión más informada.

En los negocios, pensemos en la facilidad con la que podemos preguntar a los clientes actuales sobre su satisfacción con nuestras ofertas, y en la información adicional que obtenemos al hablar con personas que no son clientes sobre por qué eligen los servicios de un competidor o no eligen ningún servicio.

Además, no toda la información valiosa es cuantificable. En el caso de un automóvil, factores como la comodidad, la estética o la experiencia de conducción son subjetivos. Necesitamos identificar indicadores de estos aspectos cualitativos o recopilar experiencia de primera mano para llenar los vacíos. Por ejemplo, Procter & Gamble desarrolló el Swiffer después de que estudios etnográficos (observaciones de los consumidores en sus hogares) identificaran el deseo de métodos de limpieza más convenientes, información que no se podía obtener de los conjuntos de datos cuantitativos existentes.

5. Establecer confiabilidad.

En una era en la que la desinformación puede propagarse rápidamente, establecer la credibilidad de las fuentes de datos es más importante que nunca. Los sistemas de inteligencia artificial carecen de esta capacidad. Los humanos, en cambio, pueden evaluar la reputación, la experiencia y los posibles incentivos o sesgos de los proveedores de información.

Por ejemplo, en el proceso de compra de un automóvil, un comprador puede confiar más en las recomendaciones de amigos o familiares que en los anuncios de los fabricantes. En el ámbito empresarial, evaluar los incentivos y la credibilidad de distintas fuentes de datos garantiza que las decisiones se basen en información fiable.

6. Elección de un algoritmo de decisión.

Si bien muchos productos de IA se comercializan como universalmente útiles, las matemáticas han demostrado que ningún algoritmo de optimización puede ser superior en todos los problemas. Por lo tanto, los humanos deben decidir qué marco de toma de decisiones se alinea mejor con sus objetivos.

En el ejemplo del automóvil, un comprador que se centra en los costos podría utilizar una herramienta que calcule los costos de propiedad durante el ciclo de vida, mientras que otro comprador que priorice la estética podría elegir un enfoque muy diferente. Algunos compradores pueden renunciar al valor esperado de un cálculo perfecto y optar por un conjunto rápido y frugal de heurísticas, y otros pueden preferir un proceso de búsqueda exhaustivo.

7. Evaluación de la competitividad.

A la hora de comprar un coche, puede bastar con resolver el problema funcional (es decir, elegir una opción práctica que satisfaga sus objetivos), a menos que, por supuesto, esté compitiendo por el estatus con sus vecinos o compañeros de clase. En el mundo de los negocios, la solución ideal suele tener que ser competitivamente ventajosa, es decir, ser sólida frente a las posibles respuestas de los competidores y difícil de imitar por otros. Utilizar los mismos datos y algoritmos a los que tienen acceso sus competidores para resolver los mismos problemas que ellos enfrentan no revelará oportunidades únicas o superiores. Más bien, equivale a mercantilizar el propio negocio mediante el uso de un proceso genérico de resolución de problemas.

Los estrategas humanos desempeñan un papel fundamental en la evaluación de las implicaciones competitivas de las decisiones, ya que comprenden los incentivos, las ventajas, las mentalidades y los patrones de conducta de los competidores. Por ejemplo, el éxito de Apple con el iPhone no se debió únicamente a la incorporación de la tecnología más avanzada, sino también al énfasis de la empresa en la estética del diseño, la experiencia del usuario y la integración del ecosistema.

8. Incorporación de consideraciones éticas.

La solución funcional, económica o competitivamente superior puede no ser éticamente aceptable. Los seres humanos son responsables de garantizar que las decisiones se ajusten a las normas éticas y los valores sociales. Esto requiere la aplicación de modelos y principios de razonamiento moral al contexto interpersonal y social específico de la decisión, que también es una capacidad esencialmente humana.

En el ejemplo de la compra de un automóvil, un comprador podría considerar el impacto ambiental de su elección y optar por un vehículo eléctrico en lugar de uno de gasolina, incluso si cuesta más.

Nuevas reglas para la toma de decisiones dirigida por humanos y respaldada por inteligencia artificial

Muchos aspectos cruciales de la toma de decisiones se encuentran más allá del ámbito de los datos y los algoritmos. De hecho, la difusión de herramientas más poderosas y conjuntos de datos más grandes probablemente harán que los elementos humanos de la toma de decisiones sean más diferenciadores.

Sin embargo, las capacidades humanas, como la de emitir juicios morales y utilizar la imaginación o la intuición, suelen ser inexpertas, impulsivas o implícitas. Por lo tanto, para distinguir y mejorar sus procesos de toma de decisiones, las organizaciones deben codificar y fomentar activamente las habilidades humanas necesarias para ello. A continuación, describimos cinco imperativos para lograr este fin.

Rechace el dataismo simplista.

Los líderes deben reconocer que una toma de decisiones eficaz abarca más que el análisis de datos y la optimización algorítmica. Esto no significa abandonar las herramientas y técnicas de IA, sino integrar la IA en un proceso más holístico y dirigido por humanos. La disciplina emergente de diseñar e implementar agentes de IA a medida, moldeados conjuntamente por actos humanos de interpretación e imaginación y los recursos computacionales e informativos de grandes modelos lingüísticos, ofrece un camino a seguir.

Asegúrese de que los solucionadores de problemas se ensucien las manos.

De la misma manera que los pilotos practican el vuelo manual para mantener sus habilidades en forma a pesar de la disponibilidad de sistemas de piloto automático, los líderes empresariales deberían sumergirse en los fenómenos subyacentes de sus industrias para evitar una dependencia excesiva de la IA y mantener habilidades críticas para la toma de decisiones. Esto implica un compromiso directo con los clientes, los empleados, los competidores y los reguladores.

Por ejemplo, la filosofía “ Genchi Genbutsu ” de Toyota, que significa “ve y mira por ti mismo”, alienta a los gerentes a visitar el taller para observar los procesos de primera mano. Esta práctica ayuda a identificar ineficiencias y fomenta una comprensión más profunda que los datos por sí solos no pueden proporcionar.

Hacer explícitas las habilidades implícitas de toma de decisiones humanas.

Las decisiones humanas suelen estar condicionadas por la intuición, nuestra poderosa inteligencia inconsciente basada en nuestra experiencia y en la heurística. Las empresas pueden ayudar a los empleados a desarrollar su intuición reconociendo y fomentando el aprendizaje experiencial y haciendo que los participantes que toman decisiones reflexionen sobre cuestiones como las siguientes:

• ¿Cuál fue mi reacción o presentimiento inicial?
• ¿Dónde me basé en la experiencia individual o colectiva?
• ¿Dónde complementé mi experiencia o conocimientos?
• ¿En qué atajos mentales recurrí para simplificar la decisión?

Otra habilidad exclusivamente humana es la imaginación: la capacidad de crear lo que aún no existe, pero que podría existir. Aunque a menudo se cree que es el resultado de incontrolables golpes de genialidad, las organizaciones pueden aprovechar sistemáticamente la imaginación mediante tácticas como buscar anomalías (en lugar de centrarse en promedios), cuestionar suposiciones previas y realizar experimentos.

Fomentar un entorno donde las habilidades humanas puedan prosperar.

Puede resultar difícil que la intuición y la imaginación brillen en una cultura tecnocrática dominada por la justificación racional. Para crear un entorno que promueva habilidades únicas para la toma de decisiones humanas, las organizaciones deben comenzar con una cultura de seguridad psicológica en la que los empleados puedan expresar perspectivas diversas, debatir ideas abiertamente y desafiar el statu quo.

Construir sistemas híbridos de toma de decisiones.

Con las habilidades humanas adecuadamente perfeccionadas, los líderes deben comenzar a reconstruir sistemas de toma de decisiones que combinen lo mejor de las capacidades humanas y de la IA.

Esto puede implicar segmentar las tareas de toma de decisiones, como el procesamiento de datos, el reconocimiento de patrones y la optimización de criterios cuantificables, que son más adecuadas para la IA, de aquellas que requieren juicio humano, como establecer objetivos y considerar la ética, los valores y el contexto.

El café con leche con especias de calabaza, uno de los productos más exitosos de Starbucks, es un ejemplo de cómo los tomadores de decisiones humanos toman la iniciativa y aprovechan su comprensión del contexto. Si bien las pruebas iniciales mostraron que los clientes preferían el sabor de los productos con sabor a chocolate o caramelo, los desarrolladores del producto creyeron que, para un producto especial de temporada, la singularidad era incluso más importante que el sabor. En estudios posteriores, recopilaron información sobre este criterio, donde el sabor a calabaza sobresalió.

También habrá tareas en las que la inteligencia humana y la de las máquinas se crucen y cooperen, formando lo que podría llamarse una organización biónica en la que los humanos revisan las soluciones generadas por IA para evaluar su viabilidad, así como las implicaciones éticas y competitivas. Consideremos Netflix, que es famosa por tomar decisiones de producción basadas en su vasto tesoro de datos de audiencia. Su decisión de crear el programa Stranger Things, que encabezó las listas, puede haber estado motivada por la observación de que el contenido que trataba temas sobrenaturales funcionaba bien, o por la duradera popularidad de los programas de la década de 1980. Sin embargo, Netflix también tuvo que hacer varias apuestas impulsadas por la intuición, como contratar a un par de showrunners no probados que inyectarían su propia visión o arriesgarse con un grupo de actores infantiles sin experiencia.

• • •

A medida que la IA se vuelve cada vez más capaz, se hace más frecuente la creencia (o el temor) de que puede sustituir a la toma de decisiones humana. Sin embargo, las decisiones implican más que la recopilación y el análisis de datos, y los humanos tienen ventajas innatas sobre incluso la IA más poderosa en estos ámbitos. Por lo tanto, el auge de la IA presenta una oportunidad para que los humanos asuman el desafío de refinar, enfatizar y aplicar sus propias fortalezas humanas para diferenciar la toma de decisiones corporativa.

Lea más sobre IA y aprendizaje automático o temas relacionados Toma de decisiones y resolución de problemas, Toma de decisiones organizacional, Estrategia, Estrategia competitiva, Estrategia corporativa, IA generativa y Tecnología y análisis

Martin Reeves es presidente del BCG Henderson Institute de Boston Consulting Group. Es coautor, junto con Jack Fuller, de The Imagination Machine (Harvard Business Review Press, 2021) y coautor, junto con Bob Goodson, de Like: The Button That Changed the World (Harvard Business Review Press, abril de 2025).

Mihnea Moldoveanu es profesor de Pensamiento Integrativo Marcel Desautels, profesor de análisis económico y director del Centro Desautels de Pensamiento Integrativo y de Rotman Digital en la Escuela de Administración Rotman de la Universidad de Toronto.

Adam Job es el director del Laboratorio de Estrategia del BCG Henderson Institute.