Doxa 2586

La IA responsable se está convirtiendo en una estrategia de crecimiento

Un manual para convertir la buena gobernanza en una ventaja competitiva

Por Michael Wade y Jochen Wirtz

Inteligencia artificial y Aprendizaje Automático

Harvard Business Review

#Doxa #IAResponsable #Gobernanza #VentajaCompetitiva #Estrategia #Crecimiento #Ética #Innovación #Confianza #Sostenibilidad #Liderazgo

Resumen. A medida que la inteligencia artificial se integra en productos, servicios y la toma de decisiones, la confianza se perfila como una ventaja competitiva crucial. La Responsabilidad Digital Corporativa (RDC) debe evolucionar de un mero ejercicio de cumplimiento a una capacidad estratégica queAyuda a las empresas a equilibrar el rendimiento empresarial con el bienestar del cliente. El Cálculo CDR proporciona un marco para evaluar las decisiones de IA, mientras que una guía práctica de tres etapas muestra a los líderes cómo identificar cada sistema de IA en uso, integrar la gobernanza y la supervisión de la IA desde la fase de diseño, y visibilizar las prácticas responsables de IA ante clientes y reguladores. Las empresas que gestionan la IA de forma proactiva pueden reducir riesgos, fortalecer la fidelización de clientes, influir en los estándares emergentes y diferenciarse en mercados cada vez más competitivos donde la confianza, más que la tecnología por sí sola, determinará el éxito a largo plazo.

Existe una paradoja fundamental en el corazón de la IA: las mismas capacidades que permiten a las empresas personalizar a gran escala, automatizar la prestación de servicios y generar información operativa son las que vigilan, manipulan y discriminan. En 2025, Apitor, un fabricante de juguetes robóticos, fue multado por recopilar datos de ubicación de niños y enviarlos a un tercero en China. Sirius XM Radio enfrenta una demanda por una herramienta de contratación basada en IA que supuestamente excluía a solicitantes negros utilizando variables que representaban su raza, como el código postal y la universidad, antes de que ningún humano revisara un currículum. Los reguladores australianos determinaron que dos minoristas propiedad del conglomerado Wesfarmers implementaron el reconocimiento facial en los compradores sin previo aviso.

Prevemos que este tipo de incidentes se volverán comunes. A medida que la IA generativa, los sistemas de agentes y los robots de servicio se integran cada vez más en las operaciones de atención al cliente, la brecha entre la capacidad tecnológica y la responsabilidad organizacional se amplía. La confianza, antes dada por sentada y rara vez medida, se ha convertido en un bien escaso. Las empresas que no logren ganársela se enfrentarán a sanciones regulatorias, daños a su reputación y la fuga de clientes hacia la competencia que optó por un camino más confiable.

En nuestros ocho años de investigación sobre la Responsabilidad Digital Corporativa (RDC), la disciplina que rige la forma en que las empresas diseñan, implementan y perfeccionan los datos y la IA de manera responsable en todo su ecosistema, y ​​tras observar implementaciones en muchos sectores de servicios, hemos llegado a la conclusión de que la RDC se está convirtiendo rápidamente en una fuente de ventaja competitiva, y este artículo muestra cómo desarrollar esa capacidad.

El panorama cambiante de la confianza

La importancia de la recuperación ante desastres (CDR) está aumentando debido a que la tecnología subyacente ha adquirido relevancia de maneras novedosas. Tres oleadas convergentes de IA han transformado el panorama.

La primera ola es la IA generativa. Los grandes modelos lingüísticos y multimodales ahora producen texto, imágenes, código y decisiones a gran escala. Pueden redactar textos publicitarios dirigidos a los clientes más vulnerables de una empresa, generar reseñas falsas indistinguibles de las auténticas y producir contenido legal, médico o financiero sin las estructuras de rendición de cuentas que rigen a los profesionales con licencia que realizan el mismo trabajo. Dado que estos modelos derivan su propia lógica de vastos conjuntos de datos en lugar de reglas explícitas, sus decisiones suelen ser inescrutables incluso para sus creadores, lo que plantea serios interrogantes sobre la responsabilidad y los sesgos. Un estudio de 2024 descubrió que los sitios web generados por IA contenían un diseño engañoso por defecto, ya que los modelos habían absorbido la manipulación de los datos con los que fueron entrenados.

La segunda ola es la IA con agentes, es decir, sistemas que persiguen objetivos de forma autónoma y ejecutan secuencias de acciones en lugar de simplemente responder a comandos. Estos sistemas pueden reservar vuelos, realizar transacciones, gestionar la infraestructura en la nube y resolver solicitudes de atención al cliente sin intervención humana en cada paso. McKinsey descubrió que el 80 % de las organizaciones ya han experimentado comportamientos problemáticos por parte de sus agentes de IA en implementaciones reales. En un experimento controlado de Anthropic, un agente que se enfrentaba a un cierre extrajo información de los correos electrónicos personales de un ejecutivo, identificó información comprometedora y envió amenazas para impedir el cierre. Lo preocupante es que esta capacidad subyacente ya está ampliamente implementada en entornos empresariales.

La tercera ola es la IA física en forma de robots de servicio que se mueven, detectan y actúan en el mundo. Ya operan en restaurantes, hoteles, hospitales y comercios. Cuando la IA opera físicamente, un fallo puede tener graves consecuencias, como un accidente costoso, tiempos de inactividad o un error de diagnóstico.

En conjunto, estas tendencias han elevado la tasa de detección de errores críticos (CDR, por sus siglas en inglés) de una preocupación especializada de TI a una prioridad para la junta directiva. El desafío consiste en establecer una gobernanza que permita detectar los riesgos de confianza relacionados con la IA antes de que causen daños.

Si la tasa de detección de llamadas (CDR) es tan importante, ¿por qué las empresas tienen dificultades con ella? La respuesta es simple: hacer lo correcto suele tener un costo. Las empresas se enfrentan constantemente a disyuntivas entre el rendimiento (obtener buenos resultados) y el bienestar del cliente (hacer el bien). A esto lo llamamos el Cálculo de la CDR, y existe para explicitar esta disyuntiva en un momento en que el cálculo se vuelve sustancialmente menos favorable. En esencia, el Cálculo de la CDR es un marco de 2x2 que relaciona cualquier decisión relacionada con la IA con dos ejes: su impacto en el rendimiento empresarial y su impacto en el bienestar del cliente. La mayoría de los marcos de este tipo simplemente describen. Este obliga a los equipos directivos a dejar de debatir la ética de la IA en abstracto y a empezar a tomar decisiones concretas sobre sistemas específicos.

El cálculo de la Responsabilidad Digital Corporativa (RDC). El cálculo de la Responsabilidad Digital Corporativa (RDC) es una matriz de cuatro cuadrantes que representa las prácticas de IA según su impacto en las partes interesadas (eje vertical, de positivo a negativo) y en las empresas (eje horizontal, de negativo a positivo). El cuadrante superior derecho, «El punto óptimo», contiene prácticas que benefician tanto a las partes interesadas como a las empresas, incluyendo funciones que mejoran la confianza, personalización ética, programas de fidelización basados ​​en el valor e iniciativas de IA verde. El cuadrante superior izquierdo, «Sacrificios», incluye prácticas que benefician a las partes interesadas pero que pueden ser costosas para las empresas, como precios transparentes, controles de privacidad robustos, centros de datos sostenibles y minimización estricta de datos. El cuadrante inferior derecho, «Tentancias», incluye prácticas rentables que son perjudiciales para las partes interesadas, incluyendo patrones oscuros, precios predatorios, seguimiento que invade la privacidad y centros de datos insostenibles. El cuadrante inferior izquierdo, «Fracasos», contiene prácticas que perjudican tanto a las partes interesadas como a las empresas, incluyendo funciones con errores, mala experiencia de usuario, operaciones ineficientes y daños a la reputación. Este marco de trabajo anima a los líderes a impulsar iniciativas de IA que generen valor tanto para las empresas como para las partes interesadas, evitando al mismo tiempo compromisos que erosionen la confianza o el rendimiento a largo plazo. Fuente: Michael Wade y Jochen Wirtz.

Consulta más gráficos de HBR en Datos y Visualizaciones.

Cada implementación significativa de IA se ubica en algún lugar de esta matriz, y la pregunta es si se realiza el cálculo deliberadamente o si se descubre la posición después de que un regulador llama o un video se vuelve viral.

Fracasos Situarse en el cuadrante de negocios negativos, clientes negativos, donde las implementaciones mal gestionadas perjudican a todos. La asociación de tres años de McDonald's con IBM para ejecutar pedidos de voz con IA terminó en 2024 después de que videos virales mostraran que el sistema agregaba 260 McNuggets a un solo pedido. Aproximadamente un 85 por ciento de precisión parece adecuado hasta que se reconoce que una de cada siete interacciones falló visiblemente, frente a la cola y a internet. La IA agente está creando una categoría completamente nueva de fallo, ilustrada cuando el agente de codificación de Amazon, Kiro, causó una interrupción de AWS de 13 horas en diciembre de 2025 después de eliminar y recrear de forma autónoma un entorno de producción, sin punto de control humano y con consecuencias que se propagaron a la velocidad de la máquina.

Tentaciones Ocupan el cuadrante de alto volumen de negocios y clientes negativos, generando ingresos a corto plazo mientras erosionan la confianza. La suscripción Prime de Amazon es el caso paradigmático. Registrarse requería un solo clic, mientras que la cancelación exigía una secuencia de varios pasos que la empresa denominaba internamente el "Flujo de la Ilíada", y cada obstáculo adicional se registraba para medir su impacto en los ingresos. El acuerdo de la FTC de 2025 alcanzó los 2.500 millones de dólares, incluidos 1.500 millones en reembolsos a 35 millones de consumidores. La IA generativa hace que esta dinámica sea más potente, ya que los sistemas entrenados con datos de comportamiento pueden identificar y explotar las vulnerabilidades psicológicas individuales a una escala que ningún equipo de ventas humano podría igualar. Uber se enfrentó a una acción paralela de la FTC en 2025 por la fricción en la inscripción y cancelación de suscripciones, diseñada de forma muy similar.

Sacrificios Ocupan el cuadrante de clientes positivos y negocios negativos, reflejando los costos reales de las prácticas responsables. El marco de Transparencia de Seguimiento de Aplicaciones de Apple de 2021 exigía el consentimiento explícito antes del seguimiento entre aplicaciones, con una pérdida estimada de 10 mil millones de dólares en ingresos publicitarios anuales para Meta y un costo real a corto plazo para la propia Apple. En un mes, el 96 % de los usuarios de iPhone en EE. UU. optaron por no participar, una preferencia revelada que validó la apuesta estratégica. Los líderes deben ser honestos sobre los costos en este cuadrante, porque cuando la disyuntiva finalmente sale a la luz, como siempre sucede, alguien debe haber tenido la autoridad y el presupuesto para tomarla deliberadamente.

El punto óptimo es el cuadrante positivo-positivo hacia el que toda organización debería diseñar, y requiere ingeniería deliberada. El sistema de pedidos por voz FreshAI de Wendy's, desarrollado con Google, mejoró el tiempo promedio de atención en el servicio para llevar en 22 segundos, manteniendo una precisión superior a un umbral que McDonald's nunca alcanzó, y sin los fallos visibles que pusieron fin al programa piloto de McDonald's. Patagonia, de igual manera, convirtió la transparencia de la cadena de suministro en un factor diferenciador, alcanzando los 1.500 millones de dólares en ingresos con una tasa de fidelización del 73 %. La misma lógica se aplica a la IA: las empresas que puedan demostrar que sus modelos son justos, que sus agentes están limitados y que sus robots son seguros y fiables se ganarán la confianza del cliente y la flexibilidad regulatoria que pierden los competidores menos disciplinados.

La matriz clarifica el caso de negocio. Un buen sistema de gestión de llamadas (CDR) va más allá de reducir la exposición regulatoria, las multas y las interrupciones operativas, ya que fortalece la marca y la fidelización de clientes, algo que la competencia no puede imitar fácilmente. Si bien estos beneficios son reales, también lo son los costos, que incluyen la pérdida de ingresos por venta cruzada y precios dinámicos, una menor personalización y la inversión continua en infraestructura y cultura de gobernanza. El objetivo no es evitar todas las tentaciones ni aceptar todos los sacrificios, sino avanzar deliberadamente hacia el punto óptimo, considerando el modelo de negocio, la base de clientes y el contexto competitivo específicos.

El manual de CDR

Saber en qué posición se encuentra un sistema dentro del Cálculo CDR solo es útil si se puede actuar en consecuencia. Las siguientes tres etapas transforman dicho cálculo en capacidad organizativa, y cada una se basa en la anterior.

Etapa 1: Sepa lo que tiene.

No se puede evaluar una herramienta si se desconoce su funcionamiento. La IA más peligrosa en cualquier organización es aquella de la que la dirección no es consciente, y la mayoría de las empresas la subestiman considerablemente. Más allá de los modelos estrella anunciados por los líderes tecnológicos, existen herramientas de fijación de precios algorítmicas, sistemas automatizados de selección de personal, bots de atención al cliente, flujos de trabajo automatizados para la gestión de compras e IA de terceros integrada en las plataformas de los proveedores. El Índice de Agentes de IA del MIT de 2025 reveló que, entre los agentes de IA que operan con niveles de autonomía de vanguardia, solo unos pocos divulgaron evaluaciones de seguridad, y los desarrolladores revelaron mucha más información sobre las capacidades que sobre los riesgos. Esta misma falta de transparencia se observa en la mayoría de las empresas.

Tres pasos concretos sientan las bases. El primero es un registro de sistemas de IA, un inventario dinámico de cada modelo implementado, su alcance de decisión, su linaje de datos de entrenamiento y su propietario humano identificado, mantenido con el rigor que los bancos regulados aplican a los inventarios de riesgo de los modelos. El segundo es un nivel de riesgo para cada sistema. Las categorías de riesgo inaceptable, alto, limitado y mínimo de la Ley de IA de la UE ofrecen una estructura inicial útil, ya que un motor de recomendaciones plantea un desafío de gobernanza sustancialmente diferente al de un agente que aprueba reclamaciones de seguros o un robot que trabaja con los clientes. El tercero es un conjunto breve de restricciones no negociables publicadas, las acciones que sus sistemas de IA nunca podrán realizar, independientemente del incentivo de rendimiento. Si un equipo directivo no puede nombrar cinco de estas restricciones en una hora, aún no cuenta con una estrategia de registro de decisiones críticas (CDR) funcional.

En conjunto, estos pasos le permiten localizar cada sistema en el cálculo, separando los candidatos genuinos al punto óptimo de las tentaciones y los fracasos que se esconden a plena vista.

Pregunta diagnóstica: ¿Podemos identificar todos los sistemas de IA que actualmente toman decisiones que afectan a nuestros clientes, y sabemos quién es responsable de cada uno de ellos?

Etapa 2: Incorporar la supervisión al sistema.

El error más común consiste en considerar la gobernanza de la IA como una revisión posterior a la construcción de los sistemas. Una IA responsable implementada tardíamente es sistemáticamente más débil, ya que los sesgos, la manipulación y el riesgo operativo son más fáciles de detectar en las etapas de diseño y entrenamiento que tras un fallo público. Esta etapa es fundamental para que los sistemas superen los cuadrantes de Tentaciones y Fallos antes de que los clientes los experimenten.

El equipo rojo de IA de Microsoft realizó 67 operaciones en 2024, probando cada modelo insignia antes de su lanzamiento en busca de entradas adversarias y usos indebidos previsibles. La mayoría de las organizaciones no tienen una función equivalente, y establecer incluso un pequeño equipo con el mandato de vulnerar sistemas antes del lanzamiento es probablemente la inversión más productiva en CDR disponible en esta etapa. Para la IA con agentes, la guía de McKinsey es diseñar priorizando la confianza sobre la velocidad. La autonomía limitada, en la que los agentes tienen los permisos mínimos necesarios para una tarea, las decisiones irreversibles requieren autorización humana y cada acción se registra para su posterior reconstrucción, es el requisito previo para confiar en los agentes en lugar de un freno para ellos. Para la IA física, como los robots de servicio, esta etapa añade algo que las empresas nativas digitales rara vez han necesitado, a saber, protocolos de incidentes físicos y la autoridad operativa para desactivar un robot defectuoso sin escalar a una función de TI.

Pregunta diagnóstica: Si nuestro sistema de IA más trascendental tomara mañana una decisión perjudicial, ¿seríamos capaces de reconstruir con exactitud qué hizo, por qué lo hizo y quién es el responsable?

Etapa 3: Convertir los registros de llamadas en una señal competitiva.

Las organizaciones que alcanzan esta etapa han dejado de considerar la gestión de datos de llamadas (CDR) como un centro de costos y han comenzado a tratarla como algo que pueden demostrar de manera creíble a clientes, reguladores, socios del ecosistema y proveedores de capital. Aquí es donde el punto óptimo se convierte en algo externo y defendible, en lugar de una reclamación privada.

El mecanismo principal es la transparencia pública estructurada, no la vaga garantía de que la IA de una empresa es responsable, sino la divulgación específica y auditable de lo que hacen sus sistemas y cómo se gobiernan. El Informe anual de transparencia de IA responsable de Microsoft nombra familias de modelos, documenta operaciones de pruebas de penetración y describe incidentes específicos y respuestas organizativas, funcionando como un artefacto de gobernanza que resulta ser público. Una empresa que publica detalles no puede alegar posteriormente desconocimiento. El segundo mecanismo es la alineación de la compensación, ya que los objetivos de CDR se vuelven duraderos solo cuando se encuentran en el mismo panel de liderazgo que los ingresos y la retención, e influyen en los mismos incentivos. Lo que está vinculado a la compensación se gestiona de forma coherente. El tercer mecanismo es la participación en el establecimiento de estándares externos, donde las organizaciones más sofisticadas ayudan a dar forma a los estándares emergentes en lugar de esperar a que los reguladores definan la IA responsable para ellas. La participación en el Marco de gestión de riesgos de IA del NIST, las consultas de la Ley de IA de la UE y compromisos como los Compromisos de seguridad de la IA de vanguardia otorgan a los participantes iniciales influencia sobre las normas que sus competidores deberán cumplir posteriormente.

Pregunta diagnóstica: ¿Podría un regulador, un cliente o un inversor institucional bien informado revisar nuestras divulgaciones públicas sobre CDR y concluir que gestionamos la IA de forma más responsable que nuestros competidores?

...

Las cifras lo demuestran claramente. Según el Índice de Confianza Digital Thales 2026, el 93 % de los líderes de TI ya utilizan, implementan o planean iniciativas de IA, pero solo el 23 % de los consumidores confían en que las empresas gestionen la IA y sus datos de forma responsable. Esta brecha representa tanto un problema de ingresos como de comunicación, y se está ampliando. Solo una de cada cinco empresas cuenta con un modelo de gobernanza maduro para agentes autónomos, incluso con la rápida aceleración de su implementación, y casi dos tercios de las organizaciones señalan la seguridad y el riesgo, en lugar de la incertidumbre regulatoria o las limitaciones técnicas, como la principal barrera para escalar la IA basada en agentes. El cuello de botella es la confianza, y específicamente la ausencia de una gobernanza capaz de generarla.

Este es el momento para el que se diseñó CDR. Las tres oleadas de IA no llegan de forma secuencial, sino simultánea, a organizaciones que, en su mayoría, carecen de la gobernanza necesaria para gestionarlas adecuadamente. El Cálculo CDR proporciona a los líderes un vocabulario para explicitar las compensaciones en lugar de dejarlas implícitas, y la ruta de madurez en tres etapas les ofrece una secuencia práctica para construir una gobernanza escalable según la implementación. Ninguna de las dos es suficiente por sí sola; juntas son ahora imprescindibles.

La mayoría de las organizaciones aún no pueden responder a las tres preguntas de diagnóstico planteadas anteriormente, y ahí reside precisamente la oportunidad. Las empresas que logren superar esta brecha primero, considerando la gobernanza no como una limitación para la ambición en IA, sino como la condición para que dicha ambición sea comercialmente sostenible, heredarán los clientes, el talento y la posición en el mercado que sus competidores menos disciplinados están perdiendo silenciosamente.

Lea más sobre IA y aprendizaje automático o temas relacionados: Analítica y ciencia de datos, Derecho y ética empresarial, Responsabilidad social corporativa, Relaciones públicas, Transformación digital, IA generativa, Algoritmos, Gestión de datos, Automatización y gestión de la información.

Michael Wade es profesor de estrategia y transformación digital en IMD y director del Centro Global TONOMUS para la Transformación Digital y de IA. Es coautor de  GAIN: Demystifying GenAI for Office and Home y Twin Transformation, ambos publicados en 2025.

Jochen Wirtz es profesor de marketing y vicedecano de los programas MBA en la Escuela de Negocios de la Universidad Nacional de Singapur (NUS Business School).