Doxa 2440

¿Está su lugar de trabajo preparado para los agentes de IA?

Por Harang Ju

IA y aprendizaje automático

Harvard Business Review

#Doxa #IAeneltrabajo #AgentesIA #TransformaciónDigital #AutomatizaciónInteligente #FuturodelTrabajo #ProductividadIA #ÉticaAI #CapacitaciónDigital #ColaboraciónHumanoIA #GestióndelCambio #TecnologíaEmpresarial #InnovaciónLaboral #SkillsDigitales #WorkplaceIA #AdopciónTecnológica

Resumen. Las verdaderas ganancias de productividad de la IA requieren rediseñar las organizaciones, no solo incorporar IA a sistemas centrados en el ser humano, de forma similar a como las fábricas tuvieron que rediseñarse en torno a la electricidad. Las estimaciones actuales de productividad subestiman la IA porque presuponen la automatización de tareas dentro de las estructuras existentes. Las verdaderas ganancias provienen de la reestructuración de los datos en formatos legibles por máquinas, la exposición de los sistemas mediante API y la eliminación de silos para que los agentes puedan trabajar en diferentes dominios. A medida que la IA reduce la coordinación y las limitaciones cognitivas, las funciones humanas deben pasar de la ejecución a la propiedad y la verificación: definir objetivos, emitir juicios basados ​​en el valor y garantizar la rendición de cuentas. Con las medidas de seguridad adecuadas, las organizaciones que priorizan a los agentes pueden lograr mejoras transformadoras, no marginales.

Cuando la electricidad llegó por primera vez a las fábricas, los gerentes no rediseñaron sus edificios. Simplemente reemplazaron la máquina de vapor central por un motor eléctrico y conservaron el sistema de correas, poleas y ejes que distribuía la energía por toda la instalación. El resultado fue, en el mejor de los casos, una mejora marginal. Los fabricantes tardaron décadas en comprender que el verdadero potencial de la electricidad requería demoler las antiguas fábricas de varias plantas (construidas en altura para facilitar la distribución de energía por gravedad) y construir plantas de una sola planta donde las máquinas pudieran ubicarse donde el trabajo lo exigiera.

Nos encontramos en un punto de inflexión similar con la inteligencia artificial. A pesar del entusiasmo en torno a los agentes de IA, la mayoría de las organizaciones cometen el mismo error que los primeros dueños de fábricas. Integran la IA en sistemas diseñados para humanos y luego se preguntan por qué los resultados son decepcionantes.

Por eso, la estimación, ampliamente citada, del premio Nobel Daron Acemoglu de que la IA solo aumentará la productividad un 0,5 % durante la próxima década probablemente sea una subestimación significativa. Su modelo asume que la IA automatiza tareas dentro de las estructuras existentes. Ese 0,5 % es el mínimo para no hacer nada diferente, no el máximo de lo posible.

¿Qué implicaría actuar de forma diferente? Requiere reconocer que nuestro software, estructuras y flujos de trabajo fueron diseñados para trabajadores humanos, y que esa premisa está presente en cada capa del funcionamiento de las empresas modernas. (Aclaración: Soy cofundador de Pairium AI, empresa que desarrolla personalización para agentes de IA).

Sistemas de información

Durante décadas, las organizaciones han codificado su conocimiento en formatos diseñados para el consumo humano: sitios web con diseños visuales, archivos PDF con tablas formateadas, presentaciones con gráficos, documentos con encabezados y viñetas. Los datos no solo se presentan a los humanos; se almacenan de esa manera. Como codirector del Laboratorio de Agentes de IA en la Universidad Johns Hopkins, he experimentado esto de primera mano: los manuales de empleados, los manuales de RR. HH. y los documentos de políticas se almacenan en formatos diseñados para el ojo humano, no para el procesamiento automático.

En el Laboratorio de Agentes de IA, abordamos este problema directamente. Hemos convertido documentos de RR. HH. dispersos en sitios web universitarios, carpetas de SharePoint y repositorios PDF en archivos Markdown de texto sin formato organizados en una estructura de directorios unificada. La transformación parece trivial, pero el efecto es drástico: un agente de IA ahora puede buscar en todas las políticas de RR. HH. simultáneamente, comparar la información de beneficios con las políticas de licencias y responder a las preguntas de los empleados que antes requerían navegar por cinco sistemas diferentes y leer decenas de páginas.

El mismo patrón se observa en la investigación científica. El sistema Biomni de Stanford integró cientos de herramientas biomédicas, bases de datos y conjuntos de datos en una única interfaz accesible para agentes. El resultado: estudios de asociación de todo el genoma que antes llevaban meses ahora pueden completarse en 20 minutos. Tareas que se estima que requieren tres semanas de esfuerzo humano (analizar más de 450 archivos de datos portátiles de 30 personas) se completaron en 35 minutos. El sistema incluso procesó la actividad genética de 336.000 células individuales, identificando tanto relaciones reguladoras conocidas como nuevos factores de transcripción que los investigadores humanos necesitarían meses para descubrir.

Esta no es la ganancia de productividad del 0,5 % que predice el modelo de Acemoglu. Cuando el análisis complejo pasa de meses a minutos, se observan mejoras multiplicándolas por mil, no una automatización marginal.

Las organizaciones han comprendido el coste de los silos de datos durante décadas. Pero cuando solo las personas gestionaban esos silos, la consolidación era una ventaja. Ahorraba tiempo, reducía la frustración y mejoraba la toma de decisiones en los márgenes. Cuando los agentes entran en escena, la consolidación se vuelve transformadora. Un agente con acceso a datos unificados no solo trabaja más rápido, sino que puede establecer conexiones entre dominios que ningún humano podría intentar.

La mayoría de las organizaciones no pueden rediseñar el software de proveedores como Salesforce o SAP, pero sí controlan cómo se almacenan las políticas, los procedimientos y el conocimiento institucional. Los archivos PDF y las carpetas de SharePoint son una opción, no una inevitabilidad.

Pero los formatos de datos son solo una parte del problema. Incluso cuando la información está correctamente estructurada, los agentes aún enfrentan barreras: sistemas que no se comunican entre sí, interfaces de acción diseñadas para hacer clic en lugar de dar órdenes, y una autenticación que asume que un humano realiza las solicitudes. Las soluciones alternativas actuales (herramientas que permiten que la IA "observe" las pantallas y haga clic en los botones) revelan la profundidad de esta discrepancia. Le estamos pidiendo a una computadora que se haga pasar por un humano usando otra computadora.

La solución es exponer las capacidades del sistema mediante interfaces programáticas. En lugar de que un agente acceda a un portal con un solo clic, el sistema debería proporcionar un canal directo donde el agente pueda autenticarse, solicitar datos y actuar. Al evaluar nuevas herramientas, la arquitectura API-first debería ser un requisito, no algo opcional. Incluso los sistemas heredados pueden integrarse con interfaces accesibles para agentes. Protocolos como MCP son pasos iniciales hacia la estandarización, pero el verdadero catalizador serán las organizaciones que se adapten primero y superen a las que aún utilizan agentes mediante interfaces humanas.

La capa humana

Las mismas suposiciones que moldearon nuestro software también moldearon nuestras organizaciones: sistemas diseñados en torno a limitaciones humanas que los agentes no comparten. La capa organizativa es más profunda.

Las jerarquías corporativas existen por dos razones relacionadas. En primer lugar, los seres humanos tienen una capacidad limitada para procesar información (lo que Herbert Simon denominó "racionalidad limitada" ). Las organizaciones sortean estas limitaciones cognitivas dividiendo los problemas complejos en partes manejables y asignando responsabilidades entre los niveles. En segundo lugar, la coordinación es costosa (la perspectiva de Ronald Coase en "La naturaleza de la empresa" ). Encontrar información, negociar acuerdos, supervisar el rendimiento: todo esto requiere tiempo y dinero. Las jerarquías gestionan estas actividades internamente porque es más económico que acudir constantemente al mercado.

Los agentes de IA socavan ambos fundamentos. Acceden a datos de todos los departamentos al instante, concilian inconsistencias, identifican patrones y generan informes en segundos. No tienen las limitaciones cognitivas que las jerarquías fueron diseñadas para acomodar. Y coordinan la información a un coste marginal casi nulo, reduciendo así los costes de transacción que justificaban la presencia de mandos intermedios.

Esto plantea una pregunta: si los agentes pueden gestionar tanto la coordinación como la ejecución, ¿qué deberían hacer los humanos?

La respuesta no es "nada". Es el trabajo que los agentes no pueden o no deben hacer: definir cómo se ve el éxito, tomar decisiones que implican valores y compensaciones, gestionar excepciones que se salen de los parámetros normales (incluso los modelos de IA avanzados se desvían significativamente del juicio humano al gestionar excepciones ), construir relaciones que requieren confianza y presencia, y asumir la responsabilidad cuando las cosas salen mal.

En la práctica, veo que los roles humanos están cambiando hacia propietarios y verificadores.

Los propietarios definen el éxito. Establecen el rumbo, toman decisiones que involucran valores y compensaciones, y determinan las limitaciones dentro de las cuales operan los agentes. Este es el trabajo del pionero: identificar oportunidades, plantear problemas, elegir estrategias. Fundamentalmente, la responsabilidad no puede delegarse en los agentes, ya que implica decisiones sobre valores, no sobre optimización. ¿Deberíamos priorizar la velocidad o la precisión? ¿Entrar en este mercado o enfocarnos en otro? Estas preguntas no tienen respuestas objetivamente correctas.

Los verificadores auditan los resultados, gestionan las excepciones y asumen la responsabilidad cuando algo falla. Revisan lo que producen los agentes, detectan errores antes de que se propaguen y toman las decisiones que se salen de los parámetros normales. La verificación no puede delegarse en los agentes, ya que la responsabilidad debe ser humana. Cuando algo falla, alguien debe responder por ello.

Considere la incorporación de clientes. Un propietario dice: «Esto debería tardar menos de cinco minutos y alcanzar el 80 % de activación en 24 horas». El agente crea flujos y los optimiza para alcanzar ese objetivo. El verificador audita los casos extremos: ¿Por qué abandonaron la plataforma estos 200 usuarios?

O considere el Laboratorio Cheeseman del MIT, que analiza los resultados del cribado de eliminación de genes CRISPR. El director del laboratorio, Iain Cheeseman, solía pasar cientos de horas interpretando manualmente qué grupos de genes investigar. Ahora, un sistema impulsado por Claude automatiza este análisis, identificando procesos biológicos compartidos y marcando genes para seguimiento. Pero Cheeseman todavía toma la decisión final: ¿qué genes reciben el experimento de cribado enfocado de más de $20,000? El agente identifica patrones y proporciona niveles de confianza; el humano posee la decisión de asignación de recursos. Crucialmente, la capa de verificación captó algo importante. El agente identificó vías de modificación de ARN que los modelos de IA alternativos descartaron como ruido, lo que permitió descubrimientos que los investigadores habían pasado por alto.

Este cambio, que traslada a los humanos de la ejecución a la delegación y la supervisión, tiene implicaciones inmediatas para la contratación. En mi propio trabajo, he cambiado mi forma de evaluar a los asistentes de investigación de posgrado. Las tareas tediosas que antes definían los puestos junior ahora pueden ser gestionadas por agentes. Lo que necesito, en cambio, son personas con alta capacidad de acción: personas que puedan identificar problemas que vale la pena resolver, definir cómo se ve el éxito y verificar que los resultados de los agentes coincidan con su visión.

No se trata de eliminar puestos. Se trata de cambiar sus requisitos. Las organizaciones que contratan por habilidades de ejecución descubrirán que estas habilidades se están volviendo cada vez más comunes. Las organizaciones que contratan por la propiedad y la verificación, por el criterio del que carecen los agentes, descubrirán que su personal es más valioso que nunca.

Las salvaguardias

Un agente con acceso a todo también puede romperlo todo. Aquí es donde la burocracia se gana la vida. Los formularios, las autorizaciones y las revisiones obligatorias surgieron para prevenir errores, garantizar la equidad y resolver problemas de coordinación a medida que las organizaciones escalaban. Estos procesos existen para detectar errores antes de que se vuelvan irreversibles.

Los sistemas de IA ya están demostrando la importancia de esto. Sin las comprobaciones adecuadas, las citaciones falsas y las alucinaciones se incorporan a los informes oficiales. Cuando los agentes operan a gran escala con acceso de escritura a datos de clientes, sistemas financieros y bases de datos operativas, estos riesgos se agravan. Un solo resultado defectuoso puede propagarse a miles de transacciones en segundos, mucho más rápido de lo que cualquier proceso de revisión humana puede detectarlo.

Por eso, las organizaciones que priorizan a los agentes necesitan una verificación independiente desde el principio. Las comprobaciones pueden ir desde simples y deterministas (sumas de comprobación, alertas basadas en reglas, controles de aprobación) hasta sistemas de IA que verifican otros sistemas de IA. Lo importante es la independencia: el verificador no puede compartir los modos de fallo con el sistema que supervisa. El rol humano se centra en revisar las excepciones que estas comprobaciones detectan, investigar patrones y definir los límites de lo que los agentes pueden hacer sin supervisión.

Recableado en la práctica

Considere la conciliación financiera mensual de una empresa. Hoy en día, los contadores pasan días descargando datos de diversos sistemas, cotejando transacciones, investigando discrepancias y preparando informes.

En una organización reestructurada, cada sistema financiero expone sus datos de transacciones a través de canales directos. El agente extrae datos de todas las fuentes simultáneamente, coteja las transacciones mediante reglas definidas por el equipo financiero y marca cualquier error de conciliación. La función del contador pasa de cotejar las transacciones a establecer los parámetros: cuánta variación es aceptable, qué tipos de transacciones requieren un manejo especial y qué discrepancias requieren revisión manual.

O pensemos en cómo gestionamos las cualificaciones del profesorado en el Laboratorio de Agentes de IA. La acreditación exige documentar que el profesorado cumple con los requisitos específicos de credenciales, un proceso que tradicionalmente implicaba que los administradores revisaran manualmente los CV, compararan los requisitos de titulación y las actividades académicas, y buscaran la documentación faltante.

En nuestro enfoque renovado, las credenciales del profesorado existen como datos estructurados que los agentes pueden consultar directamente. El agente identifica sus actividades académicas y docentes, verifica sus cualificaciones con respecto a los requisitos de acreditación y detecta a quienes se encuentran en el límite. En estos casos, redacta correos electrónicos personalizados solicitando la documentación específica faltante. Un profesional verifica los casos excepcionales y aprueba las comunicaciones salientes. El resultado: un proceso que antes tardaba meses ahora toma horas.

El camino a seguir

La transición a operaciones centradas en el agente no requiere una transformación masiva. Requiere cambios concretos en cuatro áreas.

Datos: Conviértalos en texto simple.

Convierta políticas, procedimientos, notas de reuniones y conocimiento institucional a formatos de texto sin formato, como Markdown. Guárdelos en estructuras de directorios con capacidad de búsqueda. Los archivos PDF y los documentos formateados se convierten en resultados para los usuarios, no en fuentes de información para los agentes. Este es el cambio más efectivo que la mayoría de las organizaciones pueden implementar de inmediato.

Herramientas: Construya herramientas de agente.

Cree interfaces programáticas que permitan a los agentes consultar datos de la empresa y tomar medidas. Comience con acceso de solo lectura a las bases de conocimiento y luego añada capacidades de escritura con controles de aprobación humana. Cada sistema al que un agente puede acceder directamente es un sistema que no necesita "hacer clic".

Roles: Reestructuración en torno a la propiedad y la verificación.

Para cada rol, identifique qué es la responsabilidad (definir el éxito, establecer restricciones), qué es la verificación (auditar resultados, gestionar excepciones) y qué es la ejecución (territorio del agente). Contrate por capacidad de acción, no solo por sus habilidades técnicas. Las personas que prosperarán serán aquellas que puedan especificar lo que quieren y verificar que lo han conseguido.

Salvaguardias: Crear una verificación independiente.

Alertas basadas en reglas que detectan anomalías. Controles de aprobación para acciones de alto riesgo. Estas comprobaciones deben ser sencillas, deterministas e independientes de los sistemas de IA que supervisan.

Las organizaciones que superen esta transición con éxito descubrirán lo que los dueños de fábricas finalmente aprendieron sobre la electricidad: las verdaderas ganancias no provienen de sustituir la tecnología antigua por la nueva, sino de reimaginar cómo se realiza el trabajo. La ventaja recae en quienes rediseñan en torno a ella. La pregunta es si reconfigurarán su organización para que los agentes alcancen su máximo potencial o si seguirán haciendo funcionar el motor eléctrico a través de las viejas correas de las máquinas de vapor.

Lea más sobre IA y aprendizaje automático o temas relacionados: Transformación organizacional, IA generativa, Algoritmos, Tecnología y análisis y Automatización.

Harang Ju es profesor asistente en la Johns Hopkins Carey Business School.