Doxa 2558

Cómo diseñar sistemas agenciales en torno a las reglas implícitas que rigen su empresa

Las empresas que ganen utilizarán el despliegue de agentes como una radiografía y rediseñarán sus organizaciones en función de lo que descubran

Por K. Sudhir

IA generativa

Harvard Business Review

#Doxa #AgentesAI #ReglasImplícitas #DiseñoOrganizacional #TransformaciónDigital #InteligenciaArtificial #AutomatizaciónEmpresarial #CulturaCorporativa #EficienciaOperativa #InnovaciónEstratégica #GestiónDelCambio #ArquitecturaDeSistemas #TomaDeDecisiones #OptimizaciónDeProcesos #FuturoDelTrabajo #LiderazgoAdaptativo

Resumen. A medida que las empresas se apresuran a implantar agentes de IA, están descubriendo que gran parte de su inteligencia organizativa más importante se encuentra fuera de los sistemas formales y los procesos documentados. Ejemplos procedentes de empresas de servicios financieros, de software y de consultoría demuestran cómo las organizaciones se basan en una «organización implícita» de conocimiento tácito, motivación y criterio profesional que la IA no puede replicar automáticamente. Los líderes que comprenden, preservan y rediseñan deliberadamente estas capacidades ocultas estarán mejor posicionados para aprovechar los beneficios de la IA sin mermar el criterio humano del que dependen sus organizaciones.

Una cliente con un patrimonio elevado llamó a su empresa de servicios financieros para actualizar la designación de sus beneficiarios, una tarea rutinaria. El agente de enrutamiento basado en IA clasificó la llamada correctamente, el departamento de operaciones la tramitó y un agente de atención al cliente confirmó que se había completado el proceso mediante una plantilla estándar. Todas las partes del sistema funcionaron tal y como estaban previstas.

Sin embargo, su asesor, que llevaba dos años gestionando su cartera, habría captado la señal que se escondía tras esa tarea. En su última revisión trimestral, ella había mencionado la planificación sucesoria, había formulado preguntas informales sobre la portabilidad de las cuentas y había comentado de pasada que una amiga había consolidado sus cuentas en otra entidad. Nada de esto figuraba en ningún campo del CRM. Se trata de esas señales conversacionales que un asesor experimentado aprende a interpretar: señales de que la actualización de los beneficiarios, tres semanas más tarde, no era un trámite rutinario, sino el primer paso hacia una decisión mucho más importante.

El asesor podría haberla llamado personalmente —no para tramitar la actualización, sino para mantener la conversación que el formulario no reflejaba—. En cambio, la empresa tramitó el papeleo y envió una plantilla. Un mes después, la cliente se marchó y trasladó su importante cuenta a una entidad de la competencia.

Nadie había hecho nada malo. Todos los agentes de IA funcionaron correctamente. No obstante, la empresa tomó una decisión errónea —o, mejor dicho, no supo reconocer las señales sutiles que indicaban una amenaza para la relación comercial—.

Escenas como esta son la punta visible de un problema menos evidente: la capa oculta del trabajo organizativo que los seres humanos llevan mucho tiempo realizando en silencio y que los agentes de IA ahora ponen de manifiesto al no estar presente. Llevo dos décadas estudiando las organizaciones de ventas y servicios: cómo las empresas asignan las tareas de primera línea, diseñan incentivos y confían en el criterio humano en el contacto con el cliente. Mi investigación actual sobre la IA y el trabajo de primera línea, junto con las conversaciones en curso con ejecutivos que están implantando estos sistemas, ha hecho visible esa capa oculta. Las escenas ilustrativas que siguen son composiciones; las empresas mencionadas son reales y están documentadas.

Su empresa cuenta con un sistema operativo oculto

Toda organización cuenta con dos sistemas operativos. El primero se recoge en el manual de procedimientos. Incluye flujos de trabajo documentados, políticas escritas, criterios formales y líneas jerárquicas. Cuando configura un agente de IA, esto es lo que este recibe. El segundo es el que realmente hace funcionar la organización: la organización implícita —el sistema no escrito de conocimientos, motivación y criterio que permite que los procesos formales funcionen—. La organización documentada indica a los agentes qué hacer; la organización implícita indica a las personas qué deben tener en cuenta, qué les debe importar y cuándo deben detenerse.

Esta organización implícita hace tres cosas que los sistemas formales no pueden hacer.

Coordinación de TI. La comunicación informal y las prácticas tácitas conectan lo que el flujo de trabajo formal ha dejado sin conectar; por ejemplo, el empleado que detecta una transacción extraña y envía un mensaje rápido a un asesor en lugar de presentar un informe de cumplimiento.

Esto motiva. La cultura, la identidad profesional y las preocupaciones profesionales alinean aquello que realmente importa a las personas de formas que los incentivos formales no pueden especificar por completo; por ejemplo, la suscriptora que valora la importancia de las relaciones porque la cultura de la empresa hace que sea relevante, y no porque así lo indique su descripción de funciones.

Esto supone una limitación. El criterio profesional hace que las personas se detengan cuando algo les parece que no va bien, incluso cuando tienen autoridad para seguir adelante. Esto es lo que los estudiosos denominan «discreción profesional». No lo hizo porque un manual se lo indicará. No existe una API de software para una «mala sensación», pero esa vacilación no documentada es precisamente lo que evita que un pequeño error local se convierta en una crisis organizativa.

Hay tres preguntas que ponen de manifiesto esta faceta en cualquier organización: ¿Qué perciben las personas que no figuran en los datos? ¿Qué les importa más allá de la descripción de su puesto? ¿Cuándo se lo tomó con más calma? Las respuestas conforman la lógica operativa que la organización documentada nunca ha sabido plasmar.

En una empresa compuesta exclusivamente por personas, la organización implícita es invisible, ya que los seres humanos cubren esas tres lagunas de forma automática. La organización funciona no porque sus sistemas formales sean completos, sino porque su personal compensa continuamente esa incompletitud.

La sustitución oculta

Un agente de IA conectado a sus sistemas puede acceder al instante a las políticas documentadas, los historiales de transacciones y los datos de los clientes, lo que elimina las asimetrías de información que a los seres humanos les llevan meses superar. Sin embargo, esto solo se aplica a lo que se ha documentado y se puede recuperar. El conocimiento tácito, la alineación motivacional y la discreción profesional que poseen los seres humanos no figuran en ninguna base de datos. Además, los agentes operan a la velocidad de una máquina, por lo que los errores se acumulan antes de que los responsables puedan reaccionar. Y no pueden asimilar normas no escritas: cada expectativa debe especificarse de forma explícita.

Cuando se implementa este tipo de agente, la organización implícita no desaparece. La coordinación, la motivación y la autocontención que antes aportaban los seres humanos de forma invisible ahora deben proporcionarse de manera deliberada. Ahí radica tanto el reto como la oportunidad: por primera vez, las organizaciones pueden ver la lógica operativa que siempre ha estado ahí, pero que nunca se había documentado, y diseñar en torno a ella de forma explícita.

Pensamos en una empresa de servicios financieros que ha implementado cuatro agentes de IA durante el último año, cada uno de ellos considerado como una mejora de procesos: mismo flujo de trabajo, ejecución más rápida. Sin embargo, cada uno de ellos implicaba una sustitución oculta.

Al agente de evaluación de riesgos se le indicó que optimice la velocidad de aprobación sin alterar la tasa de impago histórico de la empresa. Sobre el papel, eso resulta razonable. Sin embargo, los evaluadores humanos a los que sustituyó realizaban una labor más compleja: sopesaban el valor de la relación y el riesgo reputacional, percibían cuándo la confianza del modelo en una solicitud dudosa era errónea y sabían en qué sectores la empresa había sufrido pérdidas anteriormente. Se preocupaban no porque la política así lo exigiera, sino porque una red de mecanismos motivacionales les impulsaba a hacerlo. Si una evaluadora humana aprueba un préstamo desastroso, al día siguiente tendrá que dar la cara ante sus compañeros. La identidad profesional y la responsabilidad social desempeñan un papel fundamental que ninguna especificación formal podría asumir.

Y el asegurador no es un caso único. Las organizaciones humanas nunca se han regido únicamente por normas; siempre han estado dirigidos por personas con motivos para dudar: lo que está en juego en su carrera, el estatus, esa vocecita que dice «aquí no lo hacemos así». Esa autocontención opera en todos los niveles de la empresa, en millas de pequeñas decisiones diarias, casi ninguna de las cuales queda registrada. Es, en efecto, el verdadero sistema de control de la organización, que funciona silenciosamente bajo el sistema formal.

Un agente de IA carece por completo de todo esto. Cuando se reemplaza al ser humano, no solo se mejora la velocidad de procesamiento, sino que se elimina silenciosamente toda una red de mecanismos motivacionales. La brecha entre el objetivo documentado y el real se hace visible por primera vez. Y lo visible significa que se puede diseñar.

Algunas empresas han comenzado a diseñar deliberadamente la línea divisoria entre el agente y el ser humano, en lugar de dejar que esta se establezca donde el proceso documentado la haya trazado por casualidad. Ramp, una empresa de automatización financiera, intentó hacer precisamente esto. Los agentes de gastos de Ramp aplican la política de forma autónoma y solo remiten al personal humano entre el 10% y el 15% de los casos que requieren un criterio humano: los gastos inusuales o los casos límite en los que el contexto es relevante. Las escaladas dirigen los casos más complejos —no una muestra aleatoria— a las personas que pueden enseñar al sistema. Los agentes aplican la política escrita y sacan a la luz las lagunas y los casos límite que esta no había previsto: las reglas tácitas que los veteranos seguían sin ponerlas por escrito. Las decisiones de los revisores sobre esos casos van perfeccionando la política con el tiempo. Las personas que intervienen en el proceso no actúan como «guardianes», sino que enseñan al sistema lo que la organización sabe de forma implícita, convirtiendo la frágil memoria institucional en una infraestructura duradera.

Parte de la organización implícita puede recuperarse una vez que las empresas sepan dónde buscar. Pero la recuperación no equivale a la discrecionalidad. Muchas empresas ya están codificando la capa recuperable. Lilli, de McKinsey, ofrece más del 75 % de sus 43 000 empleados con acceso a décadas de documentos internos; ConsumerIQ, de Estée Lauder, consolida 80 años de datos de consumidores de 25 marcas. Estos sistemas reducen los costos de búsqueda que antes fragmentaban la memoria institucional. Lo que no hacen es decidir si el conocimiento recuperado es aplicable o si la situación requiere una excepción. La capa recuperable se está codificando a gran escala. La capa de discrecionalidad sigue siendo humana e inaccesible para los agentes de IA.

Cuando la organización implícita deja de ser automática

Los problemas mencionados anteriormente surgen del despliegue de agentes individuales. Lo que ocurre a continuación es aún más peligroso: cuando varios agentes, cada uno de ellos gobernado de forma individual, interactúan como un sistema.

Un sistema multiagente es, en efecto, una organización con un historial compartido muy escaso —limitado a lo que se ha codificado explícitamente— y carente del juicio con visión de las consecuencias que aportan los seres humanos. Un estudio sobre este tipo de sistemas documenta tasas de fallo de entre el 40 % y el 80 %, con fallos que se concentran en la falta de especificación, la falta de comunicación entre agentes y la ausencia de alguien que verifique el resultado. Incluso con modelos de vanguardia, la mera eliminación de la capa implícita provoca un fracaso mayoritario.

La versión de este mismo fallo, en la que intervino un único agente, ya es de dominio público: cuando un viajero afligido preguntó al chatbot de Air Canada por las tarifas por fallecimiento, el agente inventó un proceso de reembolso que la aerolínea no ofrecía y lo expuso con total seguridad; un tribunal declaró a la aeronave responsable. Una persona habría conocido la política real o se habría tomado un momento para comprobarla. El chatbot no hizo ninguna de las dos cosas. Se inventó algo y lo dijo sin dudar.

La acumulación de errores es lo que lo hace peligroso. Un ser humano comete un error cada vez y luego reflexiona sobre él. En un sistema multiagente, los errores se acumulan silenciosamente en un segmento de clientes antes de que nadie perciba el resultado global. Se da cuenta, seis meses después, de un descenso sistemático en la retención, y ningún agente en concreto tiene la culpa. Cada uno actuó a la perfección siguiendo sus instrucciones específicas. Los límites de autoridad que son seguros a la velocidad humana se vuelven peligrosos a la velocidad de las máquinas.

Tres formas de responder

Las organizaciones que se enfrentan a estos patrones tienen tres opciones, de las cuales solo una funciona.

Inserción de agentes Incorpora agentes a los flujos de trabajo existentes y espera que la organización implícita se adapte. Pero esto no ocurre, por lo que el agente ejecuta una versión parcial del proceso real a la velocidad de la máquina.

La reingeniería ingenua rediseñada en función de las capacidades de los agentes, pero se basa en el proceso documentado, lo que recrea los puntos ciegos con mayor rapidez. La reingeniería informada mapea primero la organización implícita —lo que la gente sabe, lo que le importa, cuándo se detiene— y, a continuación, diseña nuevos flujos de trabajo para lograr esos resultados de forma deliberada, aunque el resultado no se parece en nada al original. Esto es lo que hizo Ramp: se preguntó qué debía lograr realmente el flujo de trabajo, incluidas las partes que nadie había documentado.

El proceso invisible

Hay una dimensión de la organización implícita que no se puede rediseñar rápidamente. Hay que reconstruirla.

Los analistas junior de una entidad financiera dedicaron dos años a revisar solicitudes de préstamo antes de pasar a la gestión de relaciones con los clientes. Este era el campo de entrenamiento en el que la organización implícita se reproducía a sí misma. El analista aprendía la técnica (conocimiento), asimilaba los valores de la empresa (motivación) y desarrollaba el instinto para saber cuándo actuar con cautela (discreción), todo ello a través de la práctica.

Cuando el agente se encarga de las revisiones iniciales, esos mecanismos dejan de funcionar. El criterio humano ya no es gratuito; ahora es un recurso de gran valor que la empresa debe cultivar de forma activa, deliberada y costosa. La trayectoria profesional debe enseñar una habilidad diferente: aprender a gestionar, cuando antes enseñaba a hacer. Si se automatiza el trabajo que desarrollaba el criterio, se merma la capacidad para gestionar los sistemas que lo han sustituido. Antes de automatizar cualquier flujo de trabajo, pregúntese cómo adquieren las personas el criterio necesario para desempeñar puestos de responsabilidad. Si la respuesta es «realizando este trabajo», desarrolle una alternativa antes de ponerla en marcha.

Diseñar desde la organización real

¿Cómo se empieza a tener en cuenta las reglas no escritas de su organización —aquellas que los agentes de IA deben comprender? Comience por seguir estos cuatro pasos:

Analice la estructura real de la organización antes de proceder a su reingeniería. Plantee las tres preguntas siguientes a las personas que desempeñan ese puesto: ¿Qué observan que no figura en los datos? ¿Qué les importa más allá de la descripción del puesto? ¿Y cuándo solemos ralentizar el ritmo? La diferencia entre sus respuestas y el proceso documentado constituye su específica.

Diseñe para agentes que no se inhibidor por iniciativa propia. Incorpore la vacilación de forma deliberada —umbrales de confianza, detección de anomalías, desencadenantes de escalada—, pero tenga en cuenta que esto solo cubre los riesgos que haya previsto. Por eso la supervisión humana es una característica permanente del diseño, no una concesión temporal.

Controle el sistema, no solo a los agentes. Asigne la responsabilidad operativa de lo que los agentes producen colectivamente, supervise los resultados de los que ningún agente es responsable en exclusiva y esté atento a la acumulación de errores a velocidad de la máquina. Realice revisiones humanas de forma selectiva: derive a los revisores hacia los casos en los que la confianza del agente sea menor, pero mantenga suficientes casos normales en el flujo para que conserven su percepción de lo que es «normal». De lo contrario, la atención se reducirá a dar el visto bueno sin más a ese error muy poco frecuente que precisamente se pretendía detectar mediante el muestreo selectivo.

Proteja el terreno de prácticas. Cree turnos de «equipo rojo» en los que se encargue al personal junior la tarea de contrarrestar las decisiones de la IA. Este seguimiento estructurado puede sustituir el trabajo rutinario por un aprendizaje observacional de gran intensidad. El mecanismo en sí importa menos que el reconocimiento de que, en la actualidad, el aprendizaje debe diseñarse de forma deliberada. El criterio de los profesionales sénior que su empresa necesitará dentro de 10 años se está forjando —o no— en función de lo que haga hoy su personal junior.

Se puede enseñar a un agente cuándo debe dudar. No se le puede enseñar lo que aún no se le ha ocurrido, y eso es precisamente lo que la precaución humana siempre ha cubierto. La realidad siempre evolucionará más rápido de lo que las organizaciones pueden especificarla por completo.

...

Los directivos que se tomen en serio la organización implícita crearán algo más valioso que unos flujos de trabajo mejores: una comprensión más profunda de dónde reside el criterio, dónde la coordinación depende de normas no escritas y dónde los sistemas formales se basan en la interpretación humana para funcionar. Las empresas que triunfan con la IA agentiva no serán aquellas cuyos agentes lo vean todo. Serán aquellas que utilicen el despliegue de agentes como una radiografía, viendo lo que sus agentes no pueden ver y rediseñando sus organizaciones en función de lo que descubran.

Lea más sobre IA generativa o temas relacionados Inteligencia artificial y aprendizaje automático, Cambio organizacional y Tecnología y análisis

K. Sudhir es catedrático James L. Frank '32 de Marketing, Empresa Privada y Gestión en la Escuela de Administración de Empresas de Yale, donde forma parte del cuerpo docente desde 2001. Imparte la asignatura «IA generativa para directivos» a estudiantes de MBA y ejecutivos, dirige programas de formación para ejecutivos y ha prestado servicios de consultoría a numerosas empresas de la lista Fortune 500.