Doxa 2557

Los equipos más potentes de agentes de IA se crearán utilizando diferentes modelos

Por Mark Purdy

IA generativa

Harvard Business Review

#Doxa #IA #AgentesIA #ModelosIA #InteligenciaArtificial #Tecnología #Innovación #Automatización #MachineLearning #DeepLearning #Algoritmos #DesarrolloIA #SistemasInteligentes #Computación #Digital #Futuro

Resumen. La IA con agentes está tan extendida que algunos líderes empresariales ya consideran a los agentes de IA como parte de su plantilla habitual. Sin embargo, si no se presta atención a la diversidad de esta creciente fuerza laboral con agentes, es probable que los líderes empresariales descubran que muchas de las promesasLos beneficios de la IA con agentes —mayor productividad, innovación y creatividad— no se materializan por completo. De hecho, un creciente conjunto de investigaciones apunta a mejoras significativas en el rendimiento gracias a la diversidad en los sistemas con agentes. Un estudio, por ejemplo, demostró que los equipos de agentes seleccionados teniendo en cuenta la diversidad eran un 25 % más eficaces a la hora de resolver problemas de ingeniería de software que los agentes que actuaban individualmente, principalmente debido a la combinación de diferentes habilidades y conocimientos. Otro estudio demostró que tan solo dos agentes diversos pueden igualar o superar el rendimiento de 16 agentes homogéneos. El mensaje es claro: al igual que la diversidad en la fuerza laboral humana, la diversidad en los sistemas con agentes genera importantes beneficios en el rendimiento. A continuación, se presentan siete imperativos para la creación de equipos con agentes diversos.

La fuerza laboral proactiva está en marcha.

Los agentes de IA —sistemas de inteligencia artificial altamente autónomos capaces de comprender el contexto, tomar decisiones y realizar acciones complejas— operan habitualmente junto a trabajadores humanos en numerosos sectores. Los desarrolladores de software recurren cada vez más a agentes de codificación para tareas como escribir, probar y revisar código. En atención al cliente, los agentes de IA apoyan a los agentes humanos en los centros de llamadas, priorizando las consultas de los clientes, solicitando información y sugiriendo soluciones. En la gestión de la cadena de suministro, los planificadores de redes pueden recurrir a equipos de agentes de IA que supervisan la oferta y la demanda, proponen planes, optimizan el inventario y coordinan la actividad entre clientes y proveedores.

La IA geriátrica está tan extendida que algunos líderes empresariales ya consideran a los agentes de IA como parte de su plantilla habitual. En un episodio reciente de  HBR IdeaCast, Bob Sternfels, socio director global de McKinsey & Company, comentó que la plantilla de su empresa asciende ahora a 60 000 personas, de las cuales 20 000 son agentes de IA. Esto supone un aumento considerable respecto a los 3000 agentes de hace 18 meses. El CEO de NVIDIA,  Jensen Huang, tiene una visión aún más ambiciosa: que NVIDIA algún día será una empresa de 50 000 empleados con 100 millones de asistentes de IA en cada uno de sus departamentos.

Sin embargo, si no se presta atención a la diversidad de esta creciente fuerza laboral de agentes, es probable que los líderes empresariales descubran que muchos de los beneficios prometidos de la IA con agentes —mayor productividad, innovación y creatividad— no se materializan por completo. De hecho, un creciente conjunto de investigaciones apunta a mejoras significativas en el rendimiento gracias a la diversidad en los sistemas de agentes. Un estudio, por ejemplo, demostró que los equipos de agentes seleccionados teniendo en cuenta la diversidad eran un 25 % más eficaces a la hora de resolver problemas de ingeniería de software que los agentes que actuaban individualmente, principalmente debido a la combinación de diferentes habilidades y conocimientos. Otro estudio demostró que tan solo dos agentes diversos pueden igualar o superar el rendimiento de 16 agentes homogéneos. El mensaje es claro: al igual que la diversidad en la fuerza laboral humana, la diversidad de agentes genera importantes beneficios en el rendimiento.

Si bien la evidencia a favor de la diversidad de agentes sigue aumentando, no está tan claro cómo los líderes empresariales y tecnológicos pueden crear equipos de agentes diversos en la práctica. ¿Es suficiente con adaptar los agentes existentes a diferentes entornos culturales o sociales, o con dotarlos de personalidades distintivas? En resumen, ¿qué define la diversidad en los equipos de agentes y cómo se logra?

Actualmente, la mayoría de las empresas parecen no estar preparadas para estas cuestiones. Siguen centradas principalmente en los aspectos técnicos y comerciales de la implementación de la IA. Este artículo expone las causas y consecuencias de la falta de diversidad en los sistemas de IA con agentes, así como las medidas que los líderes y tecnólogos pueden tomar ahora para crear equipos de IA con agentes más diversos.

El desafío de la diversidad de la IA agente

En principio, los modelos de lenguaje extenso (o "fundamentos"), que representan el "cerebro" de un sistema de agentes, pueden utilizarse para generar diversidad superficial en los agentes de IA, manifestándose en distintos tipos de personalidad, formas de pensar y actitudes sociales y culturales. Por ejemplo, se puede configurar a los agentes de IA para que sean "apasionados" o "fríos", reflejando así las personalidades extrovertidas o introvertidas (humanas), y se les puede instruir para que sean más inquisitivos, desafiantes o conciliadores. Sin embargo, en muchos casos, estos cambios son meramente superficiales.

Entrevisté a Enver Cetin, director de la empresa de IA Ciklum, quien articuló el problema subyacente: «Cuando los clientes me hablan de diversidad en la IA con agentes, generalmente se refieren a la diversidad de personalidad o cultural en la capa de agentes. El verdadero problema que veo en los sectores de servicios financieros, automoción y comercio minorista es que casi todos operan con el mismo puñado de modelos base, las mismas arquitecturas de recuperación y, a menudo, las mismas fuentes de datos. Cuando la infraestructura subyacente es uniforme, vestir a los agentes con diferentes personalidades es, en su mayor parte, algo superficial. Cambiar de apariencia no es cognición».

Esta perspectiva se ve reforzada por un creciente número de investigaciones que ponen de manifiesto la falta de diversidad en los modelos de IA. Un estudio ha demostrado que solicitar diferentes tipos de personalidad da lugar a modelos de IA muy binarios en su pensamiento y acciones —muy extrovertidos o introvertidos, por ejemplo—, mientras que la mayoría de los humanos exhiben estos rasgos en un espectro continuo.

Otro estudio realizado por Atari et al. ha demostrado que las respuestas de los principales modelos de lenguajes de gran tamaño, como ChatGPT, a las pruebas de perfil psicológico se asemejan a las de personas de sociedades occidentales, educadas, industrializadas, ricas y democráticas (a las que denominan poblaciones «WEIRD»). Por el contrario, los principales modelos no logran capturar la diversidad de otras poblaciones con valores muy diferentes.

Las consecuencias empresariales de la falta de diversidad en los equipos de trabajo autónomos

La falta de diversidad subyacente en los modelos de IA con agentes tiene consecuencias de gran alcance para los equipos individuales, las empresas y los mercados.

A nivel organizacional, la diversidad de agentes es importante porque numerosos estudios han demostrado que la personalidad y la variación cultural son determinantes clave para el éxito de los equipos, en parte porque generan una "fricción cognitiva" que les permite resolver problemas complejos con mayor rapidez. A medida que los agentes de IA se integran más con los equipos humanos y alcanzan una mayor preponderancia en la fuerza laboral, aumentan los riesgos de sofocar las diferentes perspectivas y el pensamiento creativo.

En términos más generales, la falta de diversidad de agentes probablemente conduzca a la pérdida de oportunidades de mercado y a un aumento de los riesgos comerciales y de mercado. Cetin, de Ciklum, destacó tres cuestiones clave para las industrias. «Primero, si todos usan los mismos modelos, se producen errores correlacionados. En industrias reguladas como los pagos o los seguros, todo el sector experimenta los mismos falsos negativos por fraude al mismo tiempo. Ese es un riesgo sistémico, no solo un riesgo del proveedor. Segundo, en el comercio minorista, los sistemas de recomendación y fijación de precios de IA convergen en las mismas respuestas. Los minoristas que usan la misma pila fijan precios silenciosamente hacia el mismo equilibrio, y la diferenciación competitiva se comprime sin que nadie se dé cuenta». Un estudio encontró que en ocho mercados de productos —que abarcan desde automóviles eléctricos y computadoras portátiles hasta zapatillas para correr y cadenas hoteleras— los principales sistemas de recomendación de IA «mostraron un favoritismo marcado» hacia las marcas estadounidenses, lo que podría distorsionar la competencia y la elección del consumidor.

El tercer riesgo que Cetin señala es la pérdida de información sobre casos excepcionales en el ámbito empresarial. Por ejemplo, la convergencia de modelos de agencia en el sector asegurador podría implicar que las empresas no detecten patrones de fraude novedosos o inusuales. Asimismo, en los sectores de productos de consumo o comercio minorista, las empresas podrían tardar en detectar cambios en los patrones o preferencias de los consumidores, lo que limitaría la experimentación de productos y el desarrollo de nuevos segmentos de clientes y modelos de negocio. La ventaja de la diversidad de modelos de agencia radica en que las empresas tendrán mayor probabilidad de detectar con antelación diferentes señales de demanda, lo que mejorará su capacidad de análisis comercial y su innovación a través de precios, marketing y modelos de negocio.

La implicación es clara: a medida que la IA con capacidad de gestión de agentes se expande y se difunde cada vez más en las empresas y sus plantillas, es probable que los riesgos de una creciente uniformidad y las pérdidas derivadas de la falta de diversidad en dicha capacidad se magnifiquen en los equipos, las empresas y la economía en general.

Siete imperativos para crear equipos diversos y proactivos

Las grandes empresas aún se encuentran, en general, en la fase inicial de la implementación de la IA activa, identificando y probando casos de uso mientras capacitan a sus empleados en habilidades básicas de IA. Sin embargo, las buenas prácticas actuales en el desarrollo de la IA activa pueden evitar problemas futuros y reforzar la diversidad de los equipos de IA activa emergentes. Estos siete imperativos ayudan a guiar el camino a seguir.

1. Diversificar la pila tecnológica de agentes: La primera y más importante acción para mejorar la diversidad de agentes es que las empresas diversifiquen los modelos base subyacentes, grandes modelos de propósito general que actúan como el cerebro de un sistema de agentes. Los ejemplos líderes actuales incluyen Claude de Anthropic, GPT de OpenAI, Gemini de Google, Llama de Meta y los modelos abiertos de Mistral. Si bien el modelo base es la pieza más visible, la pila de IA de agentes también incluye otros elementos que son candidatos para la diversificación, como la capa de recuperación (que incorpora los datos de la empresa al sistema de agentes), el marco de orquestación que coordina las acciones de los agentes y la capa de evaluación y control que verifica los resultados antes de que lleguen al usuario final. Una configuración práctica sería Claude de Anthropic como agente de razonamiento, Gemini de Google como evaluador y GPT de OpenAI como agente de generación: diferentes laboratorios, diferentes datos de entrenamiento, diferentes enfoques de alineación. La cuestión es estructural, más que basada en clasificaciones: es menos probable que sus errores se correlacionen si se configuran de esta manera.

2. Enriquecer los datos de entrenamiento de agentes: Unos datos de entrenamiento más variados también pueden contribuir a mejorar la diversidad de los agentes. Los investigadores han demostrado que los modelos de entrenamiento que utilizan conjuntos de datos psicométricos multidimensionales —como los generados por el Marco de los Cinco Grandes— pueden emplearse para desarrollar agentes que reflejen fielmente a los humanos en las pruebas de personalidad. (Los cinco grandes rasgos de personalidad son amabilidad, neuroticismo, extraversión, apertura y responsabilidad). Del mismo modo, los agentes de IA podrían entrenarse con conjuntos de datos como la Encuesta Mundial de Valores para reflejar mejor los diferentes valores culturales y formas de pensar en distintas partes del mundo. Las principales empresas de IA han dado un primer paso en esta dirección, por ejemplo, reclutando etiquetadores de datos de diversos entornos geográficos y culturales, pero aún queda mucho por hacer.

3. Ajuste fino mediante modelos de lenguaje reducido: Las empresas no necesitan depender exclusivamente de conjuntos de datos y modelos externos. La mayoría de las empresas transnacionales cuentan con vastos volúmenes de datos internos que pueden utilizarse para ajustar los modelos de agentes y reflejar la composición de su plantilla. Estos datos incluyen, por ejemplo, información de sistemas de recursos humanos, encuestas a empleados y evaluaciones psicométricas de los estilos personales de los empleados.

4. Capacitación de agentes mediante la observación del trabajo humano: Los trabajadores de cualquier organización suelen aprender las técnicas del trabajo en equipo eficaz observando e imitando a sus compañeros. Dada su capacidad de aprendizaje continuo, los agentes pueden diseñarse para aprender estilos de trabajo en equipo de compañeros humanos en diferentes contextos geográficos y culturales. Se les puede capacitar a partir de comunicaciones por correo electrónico o transcripciones de reuniones para que aprendan los principios de la crítica, la negociación y el consenso eficaces. Por supuesto, estos beneficios se potenciarán si la empresa ya cuenta con una plantilla diversificada.

5. Implementar una política de gobernanza de cartera modelo: Así como la ciberseguridad y la diversidad humana se han convertido en temas prioritarios para los consejos de administración, la diversidad de agentes también debe ser elevada a la atención de los consejeros. Cetin, de Ciklum, aboga por lo que denomina una "política de gobernanza de cartera modelo". Explicó: "Esto es similar a una cartera financiera. Los consejos establecen la regla de que no más de un determinado porcentaje de decisiones críticas de agentes puede depender de un único proveedor de modelos, es decir, una empresa que desarrolla y opera modelos fundamentales como Anthropic, OpenAI o Google. El riesgo de concentración en los modelos fundamentales debe gestionarse de la misma manera que las empresas gestionan la concentración con cualquier otro proveedor crítico".

6. Utilice pruebas de penetración cultural: Las empresas también pueden probar a sus agentes mediante pruebas de penetración, un término tomado de la ciberseguridad para describir las pruebas de las defensas de seguridad realizadas por expertos humanos o sistemas de IA. OpenAI, por ejemplo, ya recurre a un equipo multidisciplinario de expertos para realizar pruebas de penetración en sus modelos de aprendizaje automático (MLM) y evaluar riesgos como sesgos, impactos sociales y sensibilidad cultural. Estas pruebas de penetración podrían ampliarse a un conjunto más amplio de factores sociales y culturales, e incluso ser realizadas por equipos impulsados ​​por IA en el futuro.

7. Creación de mercados de talento con agentes: Los principales proveedores de software empresarial y en la nube ya ofrecen plataformas para la creación y el perfeccionamiento de agentes de IA. En el futuro, podemos prever la aparición de mercados de talento con agentes altamente flexibles, similares a las redes nacionales e internacionales de talento humano, que permitan a las empresas "reclutar" agentes y equipos que reflejen una combinación de roles, nacionalidades, habilidades, tipos de personalidad y orígenes culturales.

Los avances en IA con agentes abren un panorama radicalmente transformado de oportunidades de crecimiento para las empresas: mayor productividad de los trabajadores, procesos más ágiles y rápidos, mejores experiencias para clientes y empleados, y nuevas posibilidades de conocimiento e innovación, entre otras. Sentar las bases para modelos con agentes auténticamente diversos ahora dará sus frutos en el futuro.

Lea más sobre IA generativa o temas relacionados: Diversidad e inclusión, Equipos, IA y aprendizaje automático y Tecnología y análisis.

Mark Purdy es cofundador y director de Beacon Thought Leadership, una firma de asesoría independiente centrada en la investigación y el desarrollo de contenido en la intersección de la tecnología, la economía y los negocios.