Doxa 2175

Dos marcos para equilibrar la innovación y el riesgo de la IA

Por Faisal Hoque

Tecnología y analítica

Harvard Business Review

#Doxa #marco #equilibrar #innovación #riesgo #IA #tecnología #analítica #organización #proyecto #éxito #adopten #enfoque #optimista #desafió #sortear #poder #tiempo #resiliencia #prosperar #incierto

Resumen. Las organizaciones que ven la IA como un proyecto tecnológico más se verán cada vez más irrelevantes. El éxito estará reservado para aquellas que adopten un enfoque equilibrado: sean radicalmente optimistas sobre el potencial de la IA y, al mismo tiempo, sean cautelosas. Sus riesgos. Al integrar marcos estructurados como OPEN y CARE, las organizaciones pueden sortear este desafío, aprovechando el poder transformador de la IA y, al mismo tiempo, generando la resiliencia necesaria para prosperar en un futuro incierto.

Según un estudio de 2024 , solo el 26 % de las empresas han desarrollado productos de IA que funcionan y solo el 4 % ha logrado un rendimiento significativo de sus inversiones. Para cerrar la brecha entre las aspiraciones y los logros, se requiere un enfoque sistemático de la transformación de la IA que prepare a las organizaciones para pensar en las preguntas más importantes que plantea esta tecnología sin perder de vista su impacto diario.

Lo que está en juego no podría ser mayor. Las organizaciones que no se adapten se convertirán en las Polaroids y Blockbusters de la era de la IA. Sin embargo, una implementación apresurada conlleva sus propios peligros. Cuando Zillow anunció en febrero de 2021 que comenzaría a comprar propiedades que habían sido valoradas por un algoritmo de aprendizaje automático, la medida fue ampliamente aclamada como un paso hacia el nuevo y valiente mundo de la inteligencia artificial. Ocho meses después, la nueva unidad de negocios cerró con pérdidas de unos 300 millones de dólares.

Las oportunidades y los riesgos que presenta la IA exigen una reflexión cuidadosa y respuestas estratégicas deliberadas. Las soluciones fragmentadas no bastan. El ritmo de desarrollo de la IA, combinado con la capacidad única de la tecnología para transformar las relaciones humanas y la cultura organizacional, requiere marcos que puedan equilibrar tanto la incertidumbre sin precedentes como la necesidad de acción inmediata. Las organizaciones necesitan sistemas integrales de pensamiento que puedan guiarlas a través de una transformación continua sin perder de vista sus propósitos centrales y las partes interesadas humanas.

He pasado tres décadas guiando la transformación digital en organizaciones que van desde las compañías Fortune 2000 hasta las agencias gubernamentales más grandes. A lo largo de estas experiencias, me he topado repetidamente con dos actitudes comunes pero opuestas que impiden a las organizaciones implementar con éxito nuevas tecnologías: la resistencia institucional al cambio y la adopción impulsiva de tecnología sin un propósito estratégico. Ahora veo que muchas organizaciones repiten los mismos errores en su enfoque de la IA.

La solución a este problema de doble filo radica en adoptar marcos complementarios que se combinen para crear un enfoque equilibrado para la adopción de la IA. El marco OPEN (Outline, Partner, Experiment, Navigate) proporciona un proceso sistemático de cuatro pasos para aprovechar el potencial de la IA, guiando a las organizaciones desde la evaluación inicial hasta la implementación sostenida. El marco CARE (Catastrophize, Assess, Regulate, Exit) ofrece una estructura paralela para identificar y gestionar el riesgo relacionado con la IA, tanto dentro de los proyectos de innovación como en el entorno empresarial más amplio. Si bien son distintos en sus propósitos, ambos marcos están diseñados para ser lo suficientemente flexibles como para evolucionar junto con la IA.

Estos marcos incorporan y posibilitan dos mentalidades complementarias: un optimismo radical sobre el potencial de la IA equilibrado con una profunda cautela sobre sus riesgos. Al integrar un proceso de gestión de la innovación con un enfoque de gestión financiera y de cartera (PfM), las organizaciones pueden impulsar un cambio transformador manteniendo al mismo tiempo sólidas salvaguardas.

El marco ABIERTO

El marco OPEN, basado en el propósito organizacional y en la experiencia de los seres humanos con la IA, enfatiza que la adopción exitosa depende no solo de la tecnología, sino también del liderazgo y de una cultura capaz de sostener una transformación continua. Cada paso del proceso contribuye al desarrollo de una cartera de innovación, lo que permite a las organizaciones gestionar proyectos de IA desde la ideación hasta la implementación, el mantenimiento y el retiro final.

1. Esquema

Demasiadas organizaciones comienzan su recorrido hacia la IA preguntándose “¿Qué puede hacer esta tecnología?” en lugar de “¿Qué puede hacer esta tecnología para ayudarnos a cumplir nuestra misión ?”. Este enfoque conduce a soluciones impulsadas por la tecnología en busca de problemas en lugar de nuevas formas de ofrecer valor real. Al reafirmar su propósito desde el comienzo mismo del proceso y luego alinear todas las decisiones con ese propósito como el único y más básico criterio de éxito, las organizaciones pueden evitar que las capacidades casi ilimitadas de la IA las desvíen del camino.

Coca-Cola ofrece un caso de estudio convincente de la facilidad con la que las empresas pueden perder el foco de su propósito principal, impulsadas por la tentación de experimentar con las últimas tendencias tecnológicas. En 2023, Coca-Cola lanzó una nueva bebida, Y3000, que había sido co-creada con IA. Tal vez no sea de sorprender que la empresa recibiera críticas generalizadas por el sabor poco atractivo de la bebida. En 2024, Coca-Cola volvió a adoptar la IA como un truco, socavando su larga historia de exitosas campañas publicitarias navideñas con un esfuerzo impulsado por IA que no atrajo a casi nadie . Si bien podría decirse que se podía encontrar algún valor en probar las capacidades de la IA generativa a gran escala, la asociación de una marca querida con imágenes inquietantes directamente sacadas del valle inquietante fue un claro paso en falso.

Nike ofrece un contraejemplo que muestra cómo las iniciativas de IA pueden estar profundamente alineadas con el propósito organizacional. La misión de Nike es “llevar inspiración e innovación a cada atleta” (haciendo hincapié en que “si tienes un cuerpo, eres un atleta”). En lugar de buscar la IA como un truco de marketing, Nike ha implementado soluciones de IA que sirven directamente a esta misión. Su tecnología Nike Fit utiliza visión artificial impulsada por IA para ayudar a los clientes a encontrar su talla de calzado perfecta a través de un simple escaneo del teléfono. Su estrategia Consumer Direct Acceleration emplea IA para detectar la demanda y optimizar el inventario, lo que garantiza que los productos correctos lleguen a los consumidores correctos en el momento correcto. Al comenzar con su propósito principal de servir a los atletas, Nike ha evitado la trampa de la tecnología por la tecnología y, en cambio, ha desarrollado casos de uso de IA que crean un valor genuino para sus clientes al tiempo que fortalecen su marca.

Directrices prácticas para la fase de esquema:

• Reafirmar el propósito organizacional: antes de adoptar IA, revise y reafirme la misión de su organización para garantizar claridad y aceptación.
• Evaluar los conocimientos actuales: evaluar el nivel de alfabetización y preparación de la organización en materia de IA. Realizar talleres para identificar lagunas de conocimiento. Desarrollar programas para superarlas.
• Casos de uso de lluvia de ideas: asigne equipos multifuncionales para que participen en ideas innovadoras sobre aplicaciones de IA.
• Filtro: filtre los posibles casos de uso evaluándolos en función de los criterios de propósito organizacional y preparación para la IA.

2. Socio

Desarrollar e implementar una estrategia de innovación en IA es un problema interdisciplinario clásico. La tarea no se puede delegar en el departamento de TI, el equipo de I+D o el director de innovación. Estas funciones, y otras más, deben participar y participar para que las soluciones de IA tengan la posibilidad de crear valor real. Por lo tanto, las alianzas dentro de una organización son fundamentales para el éxito de las iniciativas de IA, pero rara vez serán suficientes.

Incluso las organizaciones con sólidas capacidades internas normalmente necesitarán forjar alianzas externas para hacer realidad sus ambiciones en materia de IA. Si bien las grandes empresas tecnológicas pueden ser capaces de crear soluciones de IA personalizadas desde cero, la mayoría de las organizaciones necesitarán trabajar con socios especializados que puedan ayudarlas a desarrollar e implementar las tecnologías específicas necesarias para alcanzar sus objetivos. Estos suelen ser proveedores de servicios externos, pero también pueden ser académicos, asesores éticos independientes o reguladores del sector.

Pero quizás la asociación más importante de todas sea la que se establece entre los seres humanos y los propios sistemas de IA. Esta asociación transformará fundamentalmente la cultura de cada organización que implemente soluciones de IA, modificando las relaciones de trabajo, las estructuras de informes y los roles individuales. Las organizaciones deben pensar detenidamente en cómo sus implementaciones de IA transformarán no solo los procesos sino toda la experiencia humana dentro de su organización. ¿Un sistema de IA aumentará las capacidades humanas o las reemplazará? ¿Cómo afectará la dinámica del equipo y las jerarquías organizacionales? ¿Operará detrás de escena o interactuará directamente con los usuarios? Estas preguntas sobre la asociación entre humanos e IA deben considerarse desde el comienzo mismo de cualquier iniciativa de IA, no tratarse como una idea de último momento una vez que la solución técnica ya está construida.

Directrices prácticas para la fase de socio:

• Mapear la experiencia interna y las oportunidades de colaboración: comience por identificar las capacidades internas existentes que se pueden aprovechar para las iniciativas de IA. Mapear la experiencia interdepartamental, asegurándose de que los equipos adecuados (por ejemplo, ciencia de datos, TI, operaciones y marketing) puedan trabajar juntos sin problemas.
• Evaluar y examinar a los socios externos: la selección de colaboradores externos, como proveedores de tecnología, instituciones académicas o empresas emergentes de inteligencia artificial especializadas, es fundamental para cubrir las brechas de capacidad. Los líderes deben asegurarse de que los socios potenciales se alineen con sus objetivos, valores y requisitos operativos organizacionales.
• Establecer estructuras de gobernanza para las alianzas: las alianzas en materia de IA suelen implicar el intercambio de datos, consideraciones sobre propiedad intelectual e innovación colaborativa. Las estructuras de gobernanza claras ayudan a gestionar estas complejidades y garantizar la rendición de cuentas.
• Priorizar el diseño centrado en el ser humano en los proyectos de IA: garantizar que las implementaciones de IA, ya sean internas o de cara al cliente, mantengan la experiencia humana como elemento central de su diseño e implementación. Esto es vital para la adopción y los resultados positivos.

3. Experiment

Pasar de la idea inicial sobre las posibilidades de la IA a la implementación práctica requiere un enfoque experimental cuidadosamente estructurado. Muchas organizaciones cometen el error de pasar directamente de la ideación a la implementación a gran escala, lo que conduce a costosos fracasos y oportunidades perdidas. Otras se quedan atrapadas en un ciclo interminable de pruebas de concepto que nunca se traducen en valor en el mundo real. Ambos enfoques desperdician recursos y, lo que es más importante, desaprovechan la oportunidad de aprender lecciones vitales sobre cómo la IA puede crear valor dentro de un contexto organizacional específico.

La clave para el éxito de la experimentación con IA es estructurarla como un proceso de aprendizaje en lugar de un ejercicio de validación. Cada experimento debe estar diseñado no solo para probar si una solución de IA en particular funciona, sino para generar conocimientos sobre cómo podría crear valor, cómo podría escalar y cómo interactuarán los humanos con ella. Esto significa ir más allá de probar la viabilidad técnica para explorar la viabilidad a nivel empresarial y la conveniencia humana. Significa probar no solo el sistema de IA en sí, sino también las capacidades organizacionales necesarias para respaldarlo. Y significa estar dispuesto a fallar rápido y aprender rápido.

Pautas prácticas para la fase experimental:

• Desarrollar prototipos conceptuales: utilice modelos conceptuales para visualizar cómo la IA se integra en la arquitectura empresarial actual. Cree un guion gráfico del recorrido del cliente para anticipar los puntos de contacto y los desafíos.
• Comience con algo pequeño: implemente pruebas piloto de uso limitado para recopilar datos sobre viabilidad y rendimiento. Por ejemplo, un banco podría probar la detección de fraudes basada en inteligencia artificial en una sola sucursal antes de expandirse.
• Incorporar situaciones reales: Diseñar experimentos que reflejen condiciones y excepciones del mundo real en lugar de configuraciones idealizadas. Esto garantiza que los resultados sean prácticos y escalables, y al mismo tiempo permite descubrir posibles problemas que podrían surgir en una implementación más amplia.
• Definir métricas para el éxito: identificar KPI para cada experimento, como mayor eficiencia operativa o satisfacción del cliente.

4. Navegar

La fase de Navegación implica guiar a la organización a través de la adopción de la IA, garantizando al mismo tiempo la alineación con los objetivos estratégicos y los valores culturales más amplios. Hace hincapié en el aprendizaje y la adaptación continuos en un panorama en rápida evolución en el que los factores técnicos y humanos están profundamente entrelazados.

La clave para el éxito de la innovación en IA reside en mantener un flujo constante de proyectos de alto potencial a través de un proceso de innovación cuidadosamente diseñado que transforma las ideas en sistemas operativos. Los proyectos avanzan a través de este proceso en función de puntuaciones de clasificación compuestas que reflejan la prioridad estratégica, el nivel de riesgo, el valor potencial, el coste y la dificultad de implementación. Estas clasificaciones proporcionan una base objetiva para priorizar qué proyectos deben avanzar en un momento determinado.

La velocidad del flujo de trabajo (la rapidez con la que los proyectos avanzan en el sistema) requiere una gestión cuidadosa. Si se avanza demasiado rápido, se corre el riesgo de que los proyectos avancen antes de que estén listos, mientras que si se avanza demasiado lento, se pueden perder oportunidades o se puede perder una posición competitiva. La clave es mantener un impulso constante y, al mismo tiempo, garantizar que se cumplan correctamente los requisitos de calidad. Esto suele implicar ejecutar varios proyectos en paralelo en diferentes etapas, creando un flujo continuo en lugar de un proceso de arranque y parada.

Pautas prácticas para la implementación de Navigate:

• Aplicar métricas objetivas: desarrollar una cartera de innovación que clasifique las iniciativas de IA en función del riesgo, la recompensa, los requisitos de recursos, la dificultad de implementación y la alineación estratégica. Revisar y actualizar periódicamente la cartera para garantizar que refleje las prioridades cambiantes y las condiciones del mercado.
• Priorizar la asignación de recursos: asignar recursos de forma estratégica en función del impacto potencial y la viabilidad de los proyectos de IA. Para evitar distribuir demasiado los recursos, centrarse en iniciativas que se alineen estrechamente con su misión principal y sus objetivos a largo plazo.
• Adopte una cultura de aprendizaje: fomente el aprendizaje iterativo mediante la integración de ciclos de retroalimentación. Por ejemplo, una empresa de logística que utilice inteligencia artificial para optimizar rutas podría ajustar los modelos en función de los comentarios de los conductores.
• Monitorear el horizonte: mantenerse actualizado sobre las tendencias de IA para anticipar los cambios. Asignar recursos para I+D para garantizar la preparación para la próxima ola de innovación.

El marco CARE

Si bien la IA promete una transformación en todas las funciones organizacionales, también introduce vulnerabilidades que podrían debilitar o incluso destruir a las organizaciones que no estén preparadas. Por ejemplo, si bien las herramientas de diagnóstico impulsadas por IA están revolucionando la prestación de servicios de atención médica, los sistemas de IA también pueden cometer errores potencialmente catastróficos en el diagnóstico médico debido a datos de capacitación sesgados. De manera similar, a medida que las organizaciones implementan IA para la gestión de infraestructura crítica, enfrentan una mayor exposición a amenazas de ciberseguridad que podrían propagarse a través de sistemas interconectados. Estos desafíos técnicos se ven amplificados por los cambios organizacionales y culturales que requiere la IA, ya que los equipos deben adaptarse a nuevas formas de trabajar y pensar. Las organizaciones también deben sortear una variedad de otros riesgos, incluidos

• Riesgos reputacionales que pueden surgir de desastres de relaciones públicas impulsados ​​por IA
• Exposición legal resultante del sesgo de la IA, las ambigüedades en torno a los derechos de autor y las cuestiones de privacidad del cliente
• Riesgos estratégicos que surgen a medida que la IA transforma rápidamente industrias enteras.
• La complejidad y la naturaleza interconectada de estos riesgos exigen un enfoque estructurado para su identificación, evaluación y mitigación.

El marco CARE (Catastrofizar, evaluar, regular y salir) adopta un enfoque proactivo en lugar de reactivo para la gestión de riesgos de la IA. A diferencia de los enfoques de gestión de riesgos tradicionales, CARE está diseñado específicamente para abordar tanto las dimensiones técnicas como humanas del riesgo de la IA. Tiene en cuenta la rápida evolución de las capacidades de la IA, el potencial de comportamientos emergentes inesperados, la transformación de la cultura organizacional y las complejas interconexiones entre los factores técnicos, operativos y humanos. El marco se puede aplicar de forma iterativa a medida que evolucionan los sistemas de IA y surgen nuevos riesgos.

CARE ofrece a las organizaciones una metodología estructurada para identificar y gestionar los riesgos relacionados con la IA.

• Identificar sistemáticamente los riesgos potenciales en las dimensiones técnicas, operativas y estratégicas. Esto crea un inventario de riesgos integral que sirve como base para toda la planificación posterior.
• Evaluación de la probabilidad de riesgo, su impacto potencial y la capacidad de respuesta de la organización. Esto permite priorizar los riesgos y asignar recursos de manera eficiente.
• Implementación de controles, sistemas de monitoreo y estructuras de gobernanza para gestionar los riesgos identificados. Este paso traduce el análisis en salvaguardas y procedimientos viables.
• Desarrollo de protocolos claros para la respuesta ante riesgos, incluidos procedimientos de apagado del sistema y planes de continuidad empresarial . Esto proporciona una red de seguridad vital cuando fallan las medidas preventivas.

La IA representa un cambio fundamental en la forma en que las organizaciones operan y crean valor. Para tener éxito, las empresas deben adoptar un enfoque equilibrado que aproveche el potencial de la IA y, al mismo tiempo, tenga en cuenta sus riesgos. Al integrar marcos estructurados como OPEN y CARE, las organizaciones pueden sortear las complejidades de la adopción de la IA, garantizando tanto la innovación como la resiliencia. Este enfoque dual permite a las organizaciones aprovechar el poder transformador de la IA y, al mismo tiempo, protegerse de posibles obstáculos. En definitiva, la clave para prosperar en la era de la IA reside en un enfoque estratégico, reflexivo y equilibrado.

Lea más sobre Tecnología y análisis o temas relacionados IA y aprendizaje automático , IA generativa , Algoritmos , Análisis y ciencia de datos , Gestión de datos , Indicadores de rendimiento y automatización

Faisal Hoque  es el fundador de  SHADOKA , NextChapter y otras empresas. Ha ganado tres veces los premios Deloitte Technology Fast 50 y  Deloitte Technology Fast 500™  y ha sido tres veces  autor de best-sellers del Wall Street Journal  . Su último libro,  TRANSCEND: Unlocking Humanity in the Age of AI ,  explora la intersección de la filosofía, los negocios, la tecnología y la humanidad en la era de la IA.