Doxa 2554

No permita que la IA complique los procesos de su empresa

Cuatro pasos que los líderes pueden seguir para proteger uno de sus activos más valiosos: el conocimiento organizacional

Por Matthias Holweg y Thomas H. Davenport

IA generativa

Harvard Business Review

#Doxa #IA #conocimientoorganizacional #liderazgo #procesos #activos #protección #gestión #innovación #eficiencia #estrategia #tecnología #datos #equipos #transformación #futuro

Resumen. Las ventajas de la IA generativa conllevan un peligro oculto: el deterioro de la precisión y la calidad del conocimiento organizacional. Este deterioro es la versión a nivel organizacional del problema de la "inutilidad en el trabajo". Cuando la inutilidad en el trabajo se produce de forma secuencial a lo largo de unaLos procesos empresariales, tanto los procesos en sí mismos como sus resultados, comienzan a deteriorarse; los errores se acumulan, la confianza se erosiona y las ventajas de productividad de la IA desaparecen. Es importante destacar que esto puede ocurrir tanto dentro de las organizaciones como en los flujos de información externos de los que dependen. Esto plantea a los líderes tres desafíos: verificación, validación y entropía. Para evitar la pérdida de conocimiento, los líderes deben: 1) controlar la procedencia de los datos no estructurados, 2) restringir el uso de la IA genérica, 3) definir el valor añadido y 4) comprender las implicaciones para todo el proceso.

La IA puede hacer cosas increíbles. Puede generar respuestas por correo electrónico a partir de comandos de voz, tomar decisiones empresariales complejas e incluso resolver problemas matemáticos complejos. Pero las ventajas de la IA generativa conllevan un peligro oculto: la pérdida de precisión y calidad del conocimiento organizacional.

La degradación del conocimiento es la manifestación a nivel organizacional del problema de la " ineficiencia en el trabajo ", donde las personas utilizan la IA para producir trabajos de baja calidad que parecen pulidos, lo que termina por desperdiciar tiempo y erosionar la confianza entre colegas. Cuando la ineficiencia se produce a gran escala y de forma secuencial en los procesos de una empresa, estos procesos —y sus resultados— comienzan a deteriorarse. Esto sucede tanto dentro de las organizaciones como en los flujos de información externos de los que dependen. Los errores se acumulan. La confianza en la información se erosiona. Las personas dedican más tiempo a verificar los hechos o se arriesgan a cometer errores costosos y peligrosos. Finalmente, las personas comienzan a perder la confianza en los procesos en los que confían para realizar su trabajo.

Todo esto plantea a los líderes tres desafíos: verificación, validación y entropía. Para abordarlos, las organizaciones deben analizar el uso que hacen de la IA generativa y sus relaciones con clientes, proveedores y socios para evitar la pérdida de conocimiento. Si esta se produce, la empresa debe intervenir, idealmente en colaboración con sus socios comerciales, para garantizar que se conozca la calidad de toda la información interna y externa y así tomar decisiones informadas.

Esto es lo que los líderes deben saber y cómo pueden proteger a sus organizaciones de la pérdida de conocimiento.

La simplificación de los procesos

La pérdida de conocimiento comienza cuando una organización no garantiza que sus empleados apliquen controles de calidad a los resultados de la IA generativa. Cuando los trabajadores humanos renuncian a su responsabilidad de crear o revisar el contenido para detectar errores o mala redacción, o simplemente delegan su trabajo en la IA, no suele pasar mucho tiempo antes de que otros participantes en una secuencia de actividades del proceso también abandonen los esfuerzos por garantizar la calidad. Piensan: «Si la IA lee lo que envío, simplemente usaré la IA para crearlo». Con el tiempo, la integridad y la confianza en el proceso se ven comprometidas.

Consideremos el sencillo proceso de contratar a un nuevo candidato para un puesto vacante, que ahora puede incorporar IA en cada etapa. Los sistemas de gestión de talento (SG) son eficaces para redactar contenido, especialmente contenido relativamente estándar como descripciones de puestos y los currículos y cartas de presentación optimizados con palabras clave que se redactan en respuesta a ellos. La IA también es capaz de filtrar y clasificar grandes volúmenes de candidatos (utilizando también el análisis de palabras clave). Una vez seleccionados los candidatos, la IA puede realizar entrevistas automatizadas y evaluar la calidad de sus respuestas. Además, los directores de recursos humanos nos comentan que los candidatos utilizan sistemas SG de forma encubierta para generar respuestas durante las entrevistas en tiempo real, perceptibles únicamente por pequeños retrasos seguidos de respuestas pulidas pero insulsas a sus preguntas. Asimismo, saber que una solicitud de empleo está siendo evaluada por IA lleva a los candidatos a priorizar sus capacidades analíticas.

El impacto general de la IA en cada paso del proceso es que ha hundido la confianza en el mismo a mínimos históricos, tanto para quienes buscan empleo como para los reclutadores. Un estudio reciente confirmó que, si bien la IA ayuda a los reclutadores a publicar más descripciones de puestos, estas son más genéricas, menos informativas y con menos probabilidades de encontrar al candidato ideal. ¿Qué es lo que realmente evaluamos aquí: qué tan bien se ajusta un candidato a las necesidades del puesto vacante, qué tan bien ha definido la empresa el puesto o qué tan bien se ha utilizado la IA en cada etapa del proceso?

Un proceso similar se está desarrollando en el ámbito de la investigación. Los « científicos de IA » han publicado artículos en los que han diseñado el estudio, realizado los experimentos y redactado el texto. Podría decirse que esto supone un enorme impulso para la productividad investigadora, ya que se ha eliminado un cuello de botella clave en el proceso (el científico humano). También existen intervenciones de IA más modestas. Se observa un marcado aumento en el contenido generado por IA que se envía a revistas y congresos. Algunos de estos artículos tienen autores y coautores falsos, o bien atribuyen falsamente la autoría a autores reales, como nos ocurrió a uno de nosotros con un artículo en el que no participamos.

La IA también está siendo utilizada por humanos para escribir revisiones de artículos de investigación. En abril, Organization Science, una revista líder en investigación de gestión, publicó un estudio sobre el impacto de la IA en los artículos que recibe. "El volumen de artículos enviados ha aumentado un 42 % desde el lanzamiento de ChatGPT a finales de 2022, mientras que la calidad de la escritura ha disminuido", escribieron los editores. "[E]l estado actual de las herramientas de IA, amplificado por los incentivos existentes de 'publicar o perecer', parece estar empujando al sistema hacia un equilibrio de más investigación en lugar de mejor investigación". Otros campos ven la misma tendencia preocupante.

La atención médica es otro campo en el que el uso de la IA está creciendo rápidamente. Hasta el 40 % de los médicos de atención primaria en EE. UU., por ejemplo, utilizan una herramienta de IA para la toma de decisiones clínicas y el apoyo a la práctica. Los médicos utilizan estas herramientas para registrar las conversaciones de las consultas con los pacientes y para clasificar los códigos de tratamiento para el reembolso. Parte de esta información se comparte con las compañías de seguros para obtener las preautorizaciones, quienes a su vez utilizan la IA para tomar esas decisiones. Las imprecisiones y el uso inadecuado en cualquier etapa del proceso pueden generar problemas para los pacientes (como le sucedió recientemente a uno de nosotros ) y la pérdida de habilidades de los médicos a medida que aumenta la dependencia de las herramientas de IA.

Tres desafíos

Los problemas que surgen con la IA generativa no se limitan a un solo sector o tipo de aplicación de IA. Las organizaciones se enfrentan a tres desafíos comunes:

Verificación de conocimientos

El primer desafío consiste en verificar la veracidad del contenido. Esto implica distinguir la información válida y precisa del contenido generado por IA, que puede contener alucinaciones o errores. Cuanto más avanzada sea la IA, más difícil será para los humanos separar la información veraz del ruido generado por ella y verificar que el contenido refleje la realidad.

La verificación del contenido generado por IA suele ser un proceso laborioso que requiere pensamiento crítico, búsquedas adicionales y revisiones. En muchos casos, el esfuerzo humano necesario anula las ventajas de productividad derivadas del uso de la IA. Además, existen problemas de calidad en muchos de los procesos empresariales en los que se utiliza la IA. En la selección de personal, por ejemplo, los candidatos con un perfil inferior pueden usar la IA de tal manera que se les clasifique por encima de candidatos mejor cualificados que no la utilizan. Los reclutadores pueden tener que dedicar más tiempo a entrevistar candidatos en entornos donde no es posible el acceso a la IA (como una entrevista tradicional presencial con un panel), y perder tiempo entrevistando a candidatos con un perfil inferior que solo alcanzaron los primeros puestos gracias a la precisión con la que respondieron a las preguntas de la IA y al algoritmo de clasificación.

Validación del conocimiento

El segundo desafío consiste en validar cómo y dónde los humanos han aportado valor. Quienes reciben resultados como informes de análisis, contratos legales o revisiones de expertos se ven obligados a distinguir el contenido generado por IA del creado por humanos, que suele tener un coste significativamente mayor. Por ejemplo, pensemos en las recomendaciones de una consultora a un cliente, que se basan en gran medida en la extracción y el análisis de información con expertos humanos, quienes ofrecen conocimientos y experiencia especializados. A menudo, estas recomendaciones se presentan en forma de informes escritos y diapositivas de PowerPoint en formatos estándar, fáciles de generar con IA. Los clientes no suelen estar dispuestos a pagar honorarios elevados por contenido generado por IA, sobre todo si contiene desviaciones, como las descubiertas en un informe de consultoría para el gobierno australiano. Los expertos humanos ahora deben justificar no solo la calidad del resultado presentado, sino también que este ha sido producido mediante trabajo intelectual humano real. Si se omite dicha validación, las organizaciones corren el riesgo de degradar, sin saberlo, sus bases de conocimiento con contenido generado por IA, que es infinitamente maleable.

Este problema de validación se está manifestando en diversos sectores. Se advierte a los abogados que no utilicen la IA para elaborar informes y citar jurisprudencia, y los jueces los han sancionado cuando lo hacen. Las editoriales retiran artículos de revistas científicas cuando se descubre que hacen un uso sustancial de la IA sin la debida divulgación. En mayo, el popular repositorio de preimpresiones ArXiv anunció que la presentación de artículos con alucinaciones generadas por IA conllevaría una prohibición de un año para los autores. Los estudiantes han solicitado el reembolso de la matrícula cuando sus profesores hacen un uso excesivo y evidente de la IA. Los médicos temen ser demandados por negligencia debido al uso indebido de la IA. La IA se utiliza cada vez más en campañas políticas a pesar de las preocupaciones sobre las falsificaciones profundas y la información inexacta, y la validación no hará más que adquirir mayor importancia.

Entropía del conocimiento

El tercer desafío es la entropía: el deterioro gradual de los sistemas hacia el desorden. A medida que el conocimiento se transmite cada vez más a través de la IA, se aleja cada vez más del contenido original utilizado para crearlo.

Por ejemplo, hablamos con un proveedor de atención médica que recibe extensos documentos legales de compañías de seguros. Saben que estos documentos se generan con IA. Y debido a que se envían en grandes cantidades, la IA los revisa, ya que la revisión humana resulta prohibitiva en términos de costos. Lo que sigue es un arriesgado juego del teléfono descompuesto basado en IA, ya que la información, con cada ciclo, se alejará cada vez más del conocimiento real subyacente.

Esta degradación es consecuencia del funcionamiento de los algoritmos de transformación que sustentan todos los modelos LLM. Cuantas más iteraciones tenga un contenido en un modelo LLM, mayor será su desviación del original. La entropía puede gestionarse, pero no erradicarse, siempre que los modelos de IA generativa utilicen esta tecnología subyacente.

Si bien los modelos de lógica difusa pueden crear la ilusión de pensamiento e incluso razonamiento, son modelos probabilísticos que proporcionan resultados de predicción de la siguiente palabra. Con grandes conjuntos de datos de entrenamiento y recursos computacionales, parecen muy capaces. Sin embargo, son modelos estadísticos independientes del contexto que carecen de concepción de hechos o verdad y simplemente predicen los resultados más probables. Las nuevas herramientas y enfoques mejorarán la calidad de los resultados, pero a menos que se produzca un cambio radical en la arquitectura de nuestros modelos, este problema persistirá.

Una versión aún más grave de este problema se conoce como « colapso del modelo », que ocurre cuando los modelos de lógica difusa (MLD) se entrenan con datos sintéticos, es decir, datos creados por otro MLD o una versión anterior del mismo. Este problema, también conocido como « endogamia generativa », puede afectar la precisión y la variabilidad del MLD. Las causas y los impactos de este problema son técnicamente complejos, pero es una razón más para intentar preservar la mayor cantidad posible de contenido creado por humanos. Los estudios sugieren que hasta la mitad del contenido en internet y las redes sociales ya es generado por IA, y sin duda se convertirá en datos de entrenamiento para futuros modelos de IA. Paradójicamente, prevenir la pérdida de conocimiento es tan importante para quienes proporcionan sistemas de IA como para quienes los utilizan.

¿Cómo afrontar la pérdida de conocimiento?

Es probable que la IA generativa haya llegado para quedarse, y controlar su uso en el trabajo parece prácticamente imposible (más de la mitad de los trabajadores encuestados ocultaron su uso de esta tecnología). Por lo tanto, los líderes deben desarrollar una estrategia clara para abordar las implicaciones de esta tecnología en cuanto a conocimiento y procesos. Deberían considerar cuatro pasos.

1. Mantenga un registro de la procedencia de los datos no estructurados.

Las empresas saben desde hace décadas que la procedencia (es decir, el historial documentado) de los datos estructurados es fundamental para su calidad y precisión. Es igualmente importante rastrear la procedencia de los datos no estructurados que se utilizan con la IA generativa. Las empresas necesitan distinguir entre la información veraz y el contenido generado.

Por ejemplo, las transcripciones de entrevistas con clientes son infinitamente más valiosas que las reseñas generadas en gran medida por bots en las redes sociales, porque contienen emociones humanas, hechos verificables y un contexto de comportamiento complejo. Los patrones y señales que contienen son genuinos y relevantes, no un resumen replicado de datos de entrenamiento que simplemente presenta similitud estadística.

Cuando se haya utilizado IA generativa para modificar o resumir contenido en cuanto a estilo o formato, es fundamental indicar y registrar claramente los datos de referencia utilizados para su generación. Esto preservará el contenido original creado por humanos y permitirá que analistas posteriores puedan consultarlo si es necesario. No es posible volver a ejecutar análisis ni investigar nuevas cuestiones sobre el contenido generado, ya que en este caso resulta imposible distinguir entre señal y ruido.

2. Restringir el uso de la IA generativa.

Las empresas solo deberían permitir el uso de la tecnología donde realmente aporte valor. Si se permite a los candidatos diseñar libremente sus currículums, cabe esperar un uso generalizado de la "optimización mediante IA". En cambio, si se exige que la información se complete en cuestionarios estructurados para recopilar datos objetivos, se evita esta pérdida de conocimiento. Por ejemplo, preguntar sobre el liderazgo de proyectos podría implicar una lista de proyectos finalizados, roles desempeñados, presupuestos gestionados, número de miembros del equipo y proveedores, etc. Esta lista debe ser específica para el puesto, por lo que es fundamental planificar con antelación qué información se va a solicitar.

Cuando el uso de la IA generativa está permitido o es inevitable, es fundamental tener claras sus implicaciones: ¿Las evaluaciones de desempeño generadas por IA, por ejemplo, realmente ayudan a los empleados a comprender y mejorar su rendimiento? Depende. Si la evaluación generada por IA sintetiza información proporcionada por superiores, compañeros y clientes a la que el empleado no tiene fácil acceso, sí aporta valor. Si se trata de un informe con casillas de verificación generado a partir de unos pocos puntos clave proporcionados por un superior poco competente, entonces no lo hace.

3. Defina qué valor añadido se está aportando.

Modificar la forma, el estilo y la naturaleza del contenido es sencillo gracias a la IA generativa. Anteriormente, las empresas creaban extensas bibliotecas de informes y presentaciones de PowerPoint. Con la IA generativa, resulta prácticamente inútil crear más versiones del mismo contenido, ya que incluso los asistentes de IA integrados en el software de oficina estándar (como Copilot o Gemini) facilitan enormemente la generación de aún más versiones. Los líderes deben tener claro qué valor aporta la IA generativa y cómo. El contenido no tiene por qué ser creado íntegramente por humanos, pero si se utiliza la IA, es fundamental explicar el porqué y el cómo.

Para muchas tareas, el uso de modelos de lenguaje públicos suele aportar poco o ningún valor real. Genera textos genéricos que a menudo contienen errores. Sin embargo, el uso de modelos propietarios o el aprovechamiento de datos propios sí puede aportar valor. Prevemos que cada vez más empresas utilizarán modelos de lenguaje pequeños (SLM) propios o modelos más grandes personalizados con datos propios para generar información valiosa. Posteriormente, ChatGPT o Claude se pueden usar simplemente para modificar el estilo y el formato.

4. Comprender las implicaciones para todo el proceso.

Muchas empresas permiten a sus empleados usar la IA generativa libremente para mejorar su productividad individual. Sin embargo, no evalúan cómo el uso individual puede afectar a todo el proceso en términos de productividad y calidad de los resultados. Si el proceso es interorganizacional —por ejemplo, un ciclo de ingresos en el sector sanitario que involucre a proveedores y aseguradoras—, todas las partes implicadas deben acordar cómo se empleará la IA generativa dentro y fuera de la organización. Cada vez más empresas consideran necesario rediseñar sus procesos de negocio para aprovechar al máximo la IA, y al hacerlo, deben tener en cuenta cómo preservar la integridad del contenido a lo largo del proceso. La pregunta clave no es si la IA es mejor en una tarea específica, sino si la automatización de una tarea por parte de la IA hace que el proceso en general sea más eficiente.

...

Los líderes deben replantearse qué constituye conocimiento valioso y útil dentro de sus procesos de negocio y cómo preservarlo. Esto representa un desafío para cualquiera que deba verificar la veracidad del conocimiento o validar el papel humano en las actividades de creación de conocimiento. Cuanto más utilicemos la IA generativa en nuestros procesos de negocio, más necesario será asegurarnos de que lo que consideramos "conocimiento" realmente merezca ese término. Si no abordamos la proliferación descontrolada de la IA generativa en nuestros procesos de negocio, es probable que veamos una repetición de la " paradoja de la productividad " observada con el crecimiento de la informática empresarial hace medio siglo. La lección fundamental es que la nueva tecnología solo mejora la productividad si el proceso que la rodea está configurado para posibilitarla.

Lea más sobre IA generativa o temas relacionados: IA y aprendizaje automático, tecnología y análisis, análisis y ciencia de datos y automatización.

Matthias Holweg es profesor de Gestión de Operaciones en la cátedra American Standard Companies y director del Programa de Inteligencia Artificial de Oxford en la Saïd Business School de la Universidad de Oxford.

Thomas H. Davenport es Profesor Distinguido de Tecnología de la Información y director académico del Instituto Metropoulos de Tecnología y Emprendimiento en Babson College, investigador visitante en la Iniciativa del MIT sobre la Economía Digital y asesor sénior del Programa de Directores de Datos y Análisis de Deloitte.