Investigación: Los problemas de innovación que la IA no puede resolver
La IA generativa acelera la innovación, pero también puede limitar el pensamiento, reforzar los prejuicios y alejar a los equipos de los clientes
Por Julian De Freitas, Ayelet Israeli, Gideon Nave, Artem Timoshenko y Olivier Toubia
Inteligencia artificial y aprendizaje automático
Harvard Business Review
#Doxa #Innovación #InteligenciaArtificial #IAGenerativa #SesgosAlgorítmicos #PensamientoCrítico #ExperienciaCliente #LimitacionesTecnológicas #CreatividadHumana #ÉticaDigital #DesconexiónSocial
Resumen. La IA generativa puede acelerar la innovación, pero el artículo argumenta que su uso habitual a menudo refuerza los obstáculos humanos que pretende solucionar. En la generación de ideas, los modelos orientan a los equipos hacia ideas conocidas y hacen que las personas se centren más en ellas. En la selección, las propuestas elaboradas por IA pueden confundirse con mejores ideas, mientras que las recomendaciones de la IA pueden reflejar sesgos preexistentes. En la investigación de mercado, los clientes simulados pueden acelerar las pruebas, pero no captan los comportamientos irracionales que influyen en la adopción real. Tras el lanzamiento, la IA puede resumir una gran cantidad de comentarios, pero aun así ayudar a los equipos a justificar creencias previas. El consejo principal de los autores es de diagnóstico: antes de aplicar la IA, los líderes deben preguntarse si el problema radica en la información, el juicio o los incentivos, y mantener el contacto directo con los clientes donde más importa para fundamentar las decisiones.
Ahora todos los equipos de innovación cuentan con las mismas herramientas: los mismos modelos base, bibliotecas de sugerencias similares. Sin embargo, los resultados son muy dispares. Algunos equipos experimentan un renacimiento creativo, mientras que otros reciben una avalancha de ideas homogéneas y olvidables que parecen provenir de la misma persona. La razón no reside en el modelo que se utilice, sino en que la IA generativa actúa sobre los cuellos de botella humanos inherentes a ese proceso. Estos cuellos de botella responden a la IA de maneras diferentes, a veces incluso opuestas.
Ese es el argumento central de un nuevo documento de trabajo, solicitado por la Revista Internacional de Investigación en Marketing, que hemos escrito investigadores de Harvard, Wharton, Northwestern y Columbia. En lugar de preguntarnos qué puede hacer la IA generativa, planteamos una pregunta más profunda: ¿Cuáles son las limitaciones cognitivas, sociales y organizativas que siempre han frenado la innovación, y cómo interactúa la IA con cada una de ellas?
Para responder a esta pregunta, sintetizamos estudios empíricos recientes sobre IA generativa e innovación —sobre diversidad de ideas, consumidores simulados por IA, selección algorítmica de ideas y análisis posterior al lanzamiento— en comparación con décadas de investigación consolidada sobre creatividad, juicio en condiciones de incertidumbre y comportamiento del consumidor. Para cada una de las cuatro etapas que se describen a continuación, planteamos las mismas tres preguntas: ¿Cuál es la limitación humana subyacente?, ¿cómo la afecta la IA generativa cuando se utiliza de forma "ingenua"?, y ¿cómo sería un rediseño más deliberado? Esta estructura coherente nos permitió aplicar la misma pregunta diagnóstica a cuellos de botella que, a simple vista, no parecen similares, como el sesgo de un comité de selección contra la novedad o la incapacidad de un consumidor para expresar lo que desea antes de haberlo experimentado. ¿Está la IA eliminando este cuello de botella o, por el contrario, lo está empeorando silenciosamente?
La respuesta es más importante de lo que los gestores de innovación creen. Resulta que algunas de estas limitaciones pueden ser eliminadas por la IA generativa. Otras, las agrava aunque parezca que ayudan. Y algunas, ningún modelo futuro plausible podrá abordarlas.
El problema de suponer que la IA solucionará los problemas de innovación.
La mayoría de las conversaciones sobre IA e innovación consideran que la IA es uniformemente eficaz para eliminar las fricciones en el proceso de innovación. Generalmente, se asume que lo logrará desplazando por completo el papel de los innovadores humanos: más ideas, pruebas más rápidas, investigación más económica y aprendizaje más ágil. Nuestro marco de trabajo cuestiona esta suposición. Analizamos los cuellos de botella a lo largo de cuatro etapas del proceso de innovación: ideación, selección, conocimiento del consumidor y aprendizaje del mercado. Descubrimos que, en casi todas las etapas, el efecto predeterminado de la IA (utilizada de forma ingenua, sin un rediseño deliberado) es agravar el cuello de botella subyacente, en lugar de reducirlo.
He aquí la razón: la mayoría de los obstáculos a la innovación son problemas humanos, no tecnológicos. Se trata de cómo las personas se aferran a ideas conocidas, cómo los paneles desarrollan instintos particulares sobre lo que se considera prometedor, y cómo los consumidores no pueden expresar lo que quieren hasta que lo ven. La IA generativa, entrenada con el conjunto de la producción humana existente, tiende a reproducir exactamente las tendencias que originaron el obstáculo; solo que más rápido y a gran escala.
A continuación, se describen las formas en que la IA generativa agrava los cuellos de botella humanos en cada etapa del proceso de innovación, y qué se puede hacer al respecto.
Ideación: Obsesionarse demasiado con lo típico. La ideación es el proceso de generar conceptos candidatos para un nuevo producto, servicio o función. Dado que una sola idea excepcional vale más que docenas de ideas simplemente buenas, la tarea no consiste en producir una gran cantidad de opciones sólidas, sino en descubrir las que se salen de lo común. Esto convierte la ideación, fundamentalmente, en una búsqueda de excepciones más que en un ejercicio de producción eficiente.
Cuando se realiza una lluvia de ideas con un modelo de aprendizaje automático sin una estructura deliberada, ocurren dos cosas simultáneamente. El modelo tiende a la respuesta estadísticamente típica; al fin y al cabo, fue entrenado para autocompletar frases utilizando las palabras más probables. Y una vez que la persona lee esa respuesta típica, se obsesiona con ella, lo que le impide pensar en ideas más inusuales que podría haber generado espontáneamente. El resultado es una sutil limitación en dos etapas: la IA presenta una idea limitada, lo que a su vez limita el pensamiento humano.
Peor aún, esto ocurre a nivel sistémico. Dado que la mayoría de los modelos generativos se basan en datos de entrenamiento similares, los equipos independientes de distintas empresas que utilizan la IA de forma creativa tienden a converger en un número reducido de enfoques de diseño. Por lo tanto, aunque aumente la productividad individual, la diversidad colectiva en el mercado disminuye.
En este caso, la solución reside en el modelo, no en el humano. Utilizar la técnica de la cadena de pensamiento —pedirle al modelo que elabore un borrador y luego lo revise explícitamente para explorar un terreno más audaz y definido— funciona extraordinariamente bien con la IA. Sin embargo, este mismo enfoque no ayuda a una persona a mejorar su propio pensamiento. Una vez que una persona se ha obsesionado mentalmente con la idea inicial de la IA, decirle que «piense de forma más amplia» generalmente no ayuda; de hecho, puede que se obsesione aún más con la idea de la IA (esto es una versión del clásico problema de «no pienses en un oso blanco»).
Selección: Predisposición a favor de ideas de máster en derecho (LLM) más "refinadas". La fase de selección es donde una empresa decide qué ideas reciben financiación y cuáles se descartan, generalmente a través de un comité de evaluación o una junta de revisión de cartera. Se trata de un juicio que se toma en condiciones de gran incertidumbre, antes de que el mercado se pronuncie y, a menudo, antes de que la idea esté completamente definida. Por lo tanto, aquello que el comité prioriza, consciente o inconscientemente, termina por influir en todo lo que la empresa desarrolla.
Los evaluadores siempre han tenido prejuicios contra las ideas novedosas: los conceptos originales se perciben como más arriesgados y difíciles de clasificar, por lo que los paneles premian inconscientemente las propuestas más seguras y familiares. La IA generativa intensifica este sesgo de una forma novedosa: las presentaciones generadas por IA son fluidas y están bien estructuradas por diseño, y la fluidez se confunde con la calidad. Una idea que suena pulida obtiene una mejor puntuación, independientemente de si realmente es la mejor idea. Aquí la solución es estructural, no tecnológica: estandarizar las propuestas antes de evaluarlas y ocultar si una idea proviene de un humano o de un modelo.
Ese no es el único cuello de botella que la IA generativa puede agravar silenciosamente en la etapa de selección. He aquí una trampa más sutil: si entrenas un modelo de aprendizaje automático (MLA) de selección con las decisiones históricas de aceptación/rechazo de tu propio panel, no eliminas el sesgo del proceso, sino que lo codificas de forma permanente, a gran escala, y lo haces parecer objetivo. Un experimento de campo reciente reveló algo aún más preocupante: cuando a los evaluadores se les proporcionó una recomendación del MLA junto con una justificación escrita, se volvieron más propensos a aprobar automáticamente los rechazos, sin mejorar su capacidad para distinguir los juicios correctos de los incorrectos de la IA. La justificación del MLA sustituyó su propio juicio en lugar de respaldarlo. Y el efecto fue más fuerte precisamente donde el juicio humano es más importante: los casos límite.
La intervención en este caso es casi lo opuesto a lo que la mayoría de las empresas buscan: eliminar las explicaciones del modelo LLM. En ese mismo experimento, una recomendación de IA de "caja negra" sin justificación mejoró las decisiones, en comparación con mantener las justificaciones del modelo LLM.
Análisis del consumidor: Investigación más rápida, respuestas menos auténticas. Una vez que una idea supera la fase de selección, se desarrolla hasta convertirse en un concepto concreto con características, precios y posicionamiento definidos. Probar ese concepto implica comprender qué es lo que realmente desean los clientes. Esta es la etapa de medición de preferencias: las encuestas, entrevistas y estudios conjuntos que las empresas han utilizado tradicionalmente para convertir un concepto en una propuesta sólida y bien fundamentada.
Aquí es donde el artículo resulta más aleccionador para cualquiera que utilice IA para simular clientes. Por ejemplo, si se le pide a un modelo de lógica difusa (LLM) que simule mil segmentos de consumidores diferentes reaccionando a un cambio de precio, se obtendrá una curva suave y descendente que, en su mayor parte, es errónea de una manera específica y problemática. Dado que el modelo no se basa en una población real, no trata la variación de precio como un experimento, sino como una pista sobre el contexto (un precio más alto se interpreta como "premium", no como "el mismo producto, solo que más caro"). Así, en lugar de la curva de demanda descendente que se obtendría de compradores reales a medida que sube el precio, se puede obtener una curva plana o incluso ascendente.
Los «gemelos digitales» —personajes de IA creados a partir de perfiles de comportamiento detallados de personas reales— funcionan mejor, pero aún les falta algo esencial: los clientes reales se comportan de manera irracional, lo cual influye enormemente en su decisión de adoptar o no un nuevo producto. Se aferran a los costos hundidos y sobreestiman las dificultades del cambio. Los gemelos digitales, en cambio, tienden a tomar decisiones racionales con mucha más frecuencia que los humanos reales, lo que significa que subestiman sistemáticamente las fricciones que frustran los lanzamientos de nuevos productos.
Todavía no existe una solución definitiva para este problema. Los gemelos digitales no son inútiles —son una alternativa razonable para algunas preguntas de investigación—, pero no se debe confiar en ellos para determinar con precisión los comportamientos que diferencian el destino de un producto realmente nuevo de uno incremental. Para cualquier decisión que dependa de los costos irrecuperables, los costos de cambio o la forma en que se presenta una opción, lo más seguro es basar ese juicio en la investigación con personas: paneles de usuarios líderes y trabajo de campo etnográfico que observe cómo se comportan realmente las personas, no solo lo que un modelo predice que elegirán.
Difusión y aprendizaje de mercado: El mismo sesgo de confirmación, pero con un tono más persuasivo. La difusión y el aprendizaje del mercado abarcan todo lo que sucede después del lanzamiento: lograr que una innovación se adopte a gran escala y luego interpretar las señales resultantes para fundamentar la siguiente ronda de decisiones. La adopción es un proceso tanto social como individual —impulsado por los primeros usuarios y el boca a boca— y la retroalimentación que produce debe recopilarse, priorizarse e interpretarse correctamente antes de que sea útil.
Una vez que un producto se lanza al mercado, genera más comentarios de los que cualquier equipo puede procesar: reseñas en diversas plataformas, conversaciones en redes sociales, solicitudes de soporte, devoluciones, hilos de foros. La IA generativa resulta realmente útil en este caso: puede procesar, agrupar y resumir todo ese ruido a una escala que ningún equipo de analistas podría igualar, extrayendo necesidades estructuradas de los clientes con una calidad que empieza a acercarse a la de los analistas profesionales. Por primera vez en este marco, un cuello de botella se reduce considerablemente.
Pero este alivio genera un nuevo problema. De los cientos de temas que un sistema de IA detecta cada semana, ¿cuáles merecen atención y cuáles son simplemente los más llamativos? Las señales más importantes para la innovación, como un caso de uso emergente o un segmento que no se está adaptando, son precisamente las que un resumen ponderado por frecuencia está diseñado para ocultar.
El problema de fondo se hace evidente cuando esa señal llega a una sala llena de personas con interés en el resultado. Las organizaciones siempre han interpretado la retroalimentación del mercado con benevolencia hacia las decisiones ya tomadas. Un sistema de IA no depende del éxito del producto del año pasado, por lo que, en principio, debería detectar una oleada de quejas sobre una característica estrella con la misma facilidad que una oleada de elogios. Pero ese mismo resumen fluido y seguro que hace útil la síntesis de IA también facilita su citación selectiva como apoyo a lo que el equipo ya creía de antemano, especialmente si se consulta a la IA de una manera que deja claro qué respuesta preferiría el equipo, dada su tendencia a decir de forma servil lo que la gente quiere. Si la síntesis de IA se traduce en informes más honestos o simplemente en una forma más convincente de disfrazar las mismas justificaciones, es una de las preguntas abiertas más importantes de todo el marco.
Las principales conclusiones
Si observamos detenidamente estos cuatro ejemplos, surge un principio fundamental: el mecanismo que origina un cuello de botella determina si la IA lo beneficia o lo perjudica, no la sofisticación de la IA. Los cuellos de botella que son esencialmente informativos, de gran volumen o procedimentales (demasiadas solicitudes para revisar, demasiado texto de revisión para leer, un formato rígido que oculta la calidad) son precisamente el tipo de problema que la IA generativa está diseñada para resolver, siempre y cuando el sistema se diseñe de forma deliberada.
En cambio, los cuellos de botella que se originan en la experiencia vivida, el comportamiento humano irracional o el interés propio de la organización son un asunto completamente distinto. Ningún modelo, por muy escalable que sea, soluciona el hecho de que los consumidores no puedan expresar una preferencia por una categoría de producto que nunca han visto, o que un gerente con dos años de capital político invertido en un proyecto fallido interpretará los datos con benevolencia, por muy buenos que sean.
Esto ofrece a los líderes algo más útil que una lista de casos de uso de IA: una pregunta de diagnóstico que deben plantearse antes de adoptar cualquier herramienta o flujo de trabajo nuevo. ¿Qué es lo que, específicamente, lo está ralentizando: un problema de información, un problema de criterio humano o un problema de incentivos organizacionales? Esta perspectiva alternativa ofrece lecciones claras en cada etapa de la ideación:
- Generación de ideas: Si no se controla, la IA generativa limita el pensamiento creativo en lugar de expandirlo. La solución debe centrarse en las sugerencias del modelo, no en la mentalidad de la persona.
- Selección: La IA no elimina el sesgo de un panel de selección contra la novedad. O bien realza ese sesgo con un acabado impecable, o bien lo codifica y amplifica silenciosamente, a menos que el proceso se rediseñe deliberadamente.
- Análisis del consumidor: Los clientes simulados son un filtro rápido y útil, pero subestiman las fricciones irracionales que realmente deciden si algo nuevo se adopta o no.
- Difusión y aprendizaje en marketing: la IA resuelve el problema del volumen en la retroalimentación posterior al lanzamiento, pero también puede brindar a los equipos una forma más convincente de defender una decisión que ya habían tomado.
...
El argumento más inquietante del artículo no se centra en un único cuello de botella, sino en lo que les sucede a las organizaciones con el tiempo. A medida que la IA absorbe más tareas de ideación, selección y simulación de consumo, los empleados jóvenes que antes desarrollaban su criterio mediante la práctica ya no tienen la oportunidad de hacerlo. El resultado son usuarios sofisticados de los resultados de la IA que nunca desarrollaron la intuición para saber cuándo esos resultados son erróneos.
Si aplicamos esto a toda la función de innovación, obtenemos lo que se conoce como la trampa de la automatización: cada herramienta de IA funciona bien de forma aislada, pero todo el ciclo de retroalimentación se aleja gradualmente de los clientes reales, porque la ideación, la selección, las pruebas y las entrevistas ahora están mediadas por modelos entrenados con los resultados de otros modelos en lugar de con el mercado. Todo se acelera. Nada se mantiene con los pies en la tierra.
Nuestra solución no consiste en frenar la adopción de la IA, sino en ser deliberados sobre qué partes del proceso aún requieren un contacto directo con la realidad. La inmersión del usuario líder. El trabajo de campo etnográfico. Un ser humano responsable de la decisión crucial que debe respaldarla. No se trata de vestigios nostálgicos de una era anterior a la IA; son los pilares fundamentales que impiden que el resto de la estructura automatizada se desvíe de la realidad que se supone que debe rastrear.
La tecnología seguirá evolucionando. Los obstáculos —la fijación cognitiva, la evaluación basada en el estatus, la brecha entre lo que dicen los consumidores y lo que realmente hacen— se han mantenido notablemente estables durante décadas. Apostar por el mecanismo en lugar del modelo como estrategia de innovación probablemente resultará mucho más eficaz a largo plazo.
Lea más sobre IA y aprendizaje automático o temas relacionados: IA generativa, innovación e innovación disruptiva.
Julian De Freitas es profesor adjunto en la unidad de marketing de la Escuela de Negocios de Harvard.
Ayelet Israeli es profesora asociada Marvin Bower de Administración de Empresas en la Harvard Business School. También es cofundadora del Laboratorio de Inteligencia del Cliente en el Instituto de Diseño de Datos Digitales de la Harvard Business School.
Gideon Nave es profesor asociado Carlos y Rosa de la Cruz del Departamento de Marketing de la Wharton School of Business.
Artem Timoshenko es profesor adjunto de marketing en la Kellogg School of Management de la Universidad Northwestern. Su investigación se centra en las aplicaciones de la IA al análisis de marketing y la comprensión del comportamiento del cliente.
Olivier Toubia Es profesor de marketing en la Escuela de Negocios de Columbia y un líder reconocido en el campo del marketing cuantitativo.
