Doxa 2681

Preparación organizacional frente a ciberamenazas impulsadas por inteligencia artificial:
Revisión de literatura y marco integrado de defensa

Por Oscar Hernando Benavides Paz, MBA

Resumen

La convergencia entre inteligencia artificial (IA) y ciberseguridad ha configurado un escenario de doble uso en el que los adversarios emplean modelos generativos, aprendizaje automático adversarial y automatización inteligente para incrementar la escala, la velocidad y la sofisticación de sus ataques. Esta revisión de literatura sintetiza la evidencia científica y técnica disponible hasta 2025 sobre las ciberamenazas impulsadas por IA y, a partir de ella, propone un marco integrado de preparación organizacional. Se examinan la taxonomía de ataques adversariales, los vectores de ataque emergentes —phishing generativo, malware polimórfico, explotación de vulnerabilidades de día cero y manipulación de sistemas defensivos basados en IA— y las vulnerabilidades intrínsecas de las propias herramientas de defensa. Posteriormente, se analizan estrategias de mitigación como el entrenamiento adversarial, la validación continua de modelos, la inteligencia de amenazas asistida por IA, la arquitectura de confianza cero y los marcos de gobernanza. Se concluye que la preparación efectiva exige un enfoque sociotécnico que combine robustez algorítmica, supervisión humana, cooperación intersectorial y marcos normativos adaptativos. Se identifican retos críticos: disponibilidad de datos representativos, detección en tiempo real, brecha de talento especializado y fragmentación regulatoria.

Palabras clave: ciberamenazas impulsadas por IA; aprendizaje automático adversarial; preparación organizacional; defensa cognitiva; gobernanza de IA; ciberseguridad.

Introducción

La inteligencia artificial ha dejado de ser un componente auxiliar en la ciberseguridad para convertirse en un factor estructural que redefine la naturaleza del conflicto digital. Los avances en modelos generativos, aprendizaje profundo y sistemas autónomos han ampliado las capacidades tanto de atacantes como de defensores, generando un escenario de competencia asimétrica en el que la velocidad de adopción tecnológica marca la diferencia entre la resiliencia y la exposición. La literatura reciente documenta un aumento sostenido de ataques que emplean IA para automatizar el reconocimiento, personalizar el engaño y evadir controles tradicionales, al tiempo que los marcos de gobernanza intentan armonizar la innovación con la seguridad.

En este contexto, la preparación organizacional ya no puede limitarse a la incorporación de herramientas de detección. Exige una comprensión profunda de la taxonomía de amenazas, de las vulnerabilidades de los propios sistemas defensivos y de los factores organizacionales, humanos y regulatorios que determinan la capacidad de respuesta. El National Institute of Standards and Technology (NIST), a través de su taxonomía de aprendizaje automático adversarial, ha subrayado la necesidad de un lenguaje común para identificar, evaluar y mitigar los riesgos asociados a los sistemas de IA. De forma complementaria, la Agencia de la Unión Europea para la Ciberseguridad (ENISA) ha advertido que los escenarios de amenaza específicos de IA requieren guías y taxonomías diferenciadas, especialmente en infraestructuras críticas.

La presente revisión tiene como propósito sintetizar la evidencia disponible y ofrecer un marco integrado que oriente a las organizaciones en la preparación frente a ciberamenazas impulsadas por IA. Se parte de una premisa fundamental: la defensa eficaz no depende exclusivamente de la sofisticación algorítmica, sino de la capacidad de integrar tecnología, procesos, personas y gobernanza en un sistema adaptativo de gestión del riesgo.

Objetivos

Objetivo general

Analizar la literatura científica y técnica sobre ciberamenazas impulsadas por inteligencia artificial y formular un marco integrado de preparación organizacional que articule taxonomía de amenazas, estrategias de defensa, gobernanza y factores humanos.

Objetivos específicos

• Identificar y clasificar los principales vectores de ataque que emplean inteligencia artificial, con base en taxonomías reconocidas y evidencia empírica.
• Examinar las vulnerabilidades de los sistemas defensivos basados en IA, incluyendo ataques adversariales, envenenamiento de datos e inversión de modelos.
• Evaluar las estrategias de mitigación y preparación documentadas, tales como el entrenamiento adversarial, la validación continua, la inteligencia de amenazas asistida por IA y la arquitectura de confianza cero.
• Analizar los marcos de gobernanza y las iniciativas de cooperación internacional orientadas a fortalecer la resiliencia frente a amenazas impulsadas por IA.
• Identificar brechas de investigación y retos emergentes que condicionan la preparación organizacional en el mediano y largo plazo.

Metas

La revisión se plantea las siguientes metas verificables: (i) construir una síntesis estructurada de al menos veinte fuentes primarias y técnicas publicadas entre 2024 y 2025 en bases de datos como IEEE Xplore, ScienceDirect, Nature, NIST y ENISA; (ii) elaborar una tabla de correspondencia entre tipos de ataque, vulnerabilidades defensivas y controles de mitigación; (iii) proponer un modelo conceptual de preparación organizacional con dimensiones tecnológicas, humanas y de gobernanza; y (iv) identificar un conjunto priorizado de retos que orienten futuras investigaciones y decisiones de política organizacional.

Desarrollo

1. Taxonomía de ciberamenazas impulsadas por inteligencia artificial

La literatura coincide en que las amenazas impulsadas por IA no constituyen una categoría homogénea, sino un espectro de ataques que se diferencian por el grado de autonomía, el objetivo perseguido y el componente del sistema de IA que explotan. El NIST, en su taxonomía de aprendizaje automático adversarial, organiza las amenazas en función de las etapas del ciclo de vida del modelo y de los objetivos del atacante, distinguiendo entre ataques de envenenamiento, evasión, extracción de privacidad y abuso de funcionalidades. Esta clasificación resulta operativamente útil porque permite mapear cada tipo de ataque con controles específicos de mitigación.

En el ámbito de los ataques generativos, la evidencia empírica muestra que los adversarios utilizan modelos de lenguaje y redes generativas adversariales para producir correos de phishing altamente personalizados, deepfakes de audio y video, y contenido sintético diseñado para manipular la percepción y la confianza. Un análisis comprehensivo de la técnica generativa en la cadena de muerte cibernética (Cyber Kill Chain) concluye que la IA generativa amplifica las fases de reconocimiento, armamentización y explotación, al tiempo que dificulta la detección por parte de los sistemas tradicionales. La misma revisión advierte que los atacantes emplean IA para incrementar las técnicas de evasión, ofuscación y engaño, lo que eleva la efectividad y reduce la trazabilidad de las operaciones maliciosas.

Una segunda categoría relevante la constituyen los ataques automatizados que explotan vulnerabilidades de día cero. La revisión sistemática de métodos basados en IA para la detección de ataques de día cero subraya que, si bien el aprendizaje automático ofrece soluciones prometedoras, persisten limitaciones significativas relacionadas con la disponibilidad de datos, la complejidad algorítmica y la aplicación en tiempo real. Esto implica que la IA no solo actúa como herramienta ofensiva, sino que también introduce nuevas dependencias y superficies de exposición en las arquitecturas defensivas.

2. Vectores de ataque emergentes y su evolución

El panorama de vectores de ataque se ha diversificado. Entre los más documentados se encuentran el phishing generativo, la inyección de instrucciones en modelos de lenguaje, el malware polimórfico asistido por IA y la manipulación de datos de entrenamiento. La encuesta sobre modelos de lenguaje para la detección de amenazas cibernéticas identifica que los LLM pueden ser empleados tanto para la defensa como para el ataque, y señala que la detección de phishing, el análisis de registros y la predicción de amenazas son escenarios donde la IA aporta valor, pero también donde los adversarios encuentran oportunidades de evasión.

La automatización del reconocimiento y la explotación permite a los atacantes operar a una escala que supera la capacidad de respuesta humana. La revisión sobre IA generativa en la cadena de muerte cibernética enfatiza que la IA facilita la creación de contenido convincente y la ejecución de pasos complejos con mínima intervención humana, lo que reduce las barreras de entrada para actores con recursos limitados. En paralelo, la literatura sobre seguridad nacional advierte que los ciberataques automatizados y la manipulación de datos son riesgos centrales que exigen estrategias de mitigación coordinadas entre gobiernos e instituciones.

Un vector particularmente crítico es la manipulación de los propios sistemas defensivos. Los modelos de detección de intrusiones y clasificación de malware son vulnerables a perturbaciones adversariales cuidadosamente diseñadas que pueden inducir falsos negativos o falsos positivos, socavando la confianza en las alertas y degradando la capacidad de respuesta. La literatura sobre aprendizaje automático adversarial documenta que pequeñas perturbaciones pueden provocar la clasificación errónea de tráfico malicioso como benigno, lo que en dominios críticos como finanzas, salud o control industrial podría facilitar fraudes, brechas de datos o interrupciones de servicio.

3. Vulnerabilidades de los sistemas defensivos basados en IA

La incorporación de IA en la defensa introduce una paradoja: los sistemas diseñados para proteger se convierten, a su vez, en objetivos. El NIST identifica que los sistemas de IA son susceptibles a ataques en diferentes etapas de su ciclo de vida, incluyendo la fase de entrenamiento (envenenamiento de datos), la fase de inferencia (evasión) y la fase de despliegue (extracción de información sensible). Estas vulnerabilidades no son incidentales, sino estructurales, y exigen un enfoque de seguridad por diseño que contemple la robustez adversarial como requisito, no como añadido.

La literatura sobre detección de día cero señala que los modelos de aprendizaje automático pueden volverse inadecuados frente a la escalada de ataques, y que la disponibilidad de datos representativos y la complejidad algorítmica limitan la capacidad de generalización en entornos reales. A ello se suma el riesgo de dependencia excesiva en sistemas automatizados sin supervisión humana, lo que puede generar puntos ciegos y respuestas desproporcionadas. La revisión sobre amenazas generativas advierte que la detección de contenido sintético es intrínsecamente difícil y que los sistemas de IA pueden ser engañados mediante técnicas de ofuscación y evasión.

Otro aspecto crítico es la opacidad de los modelos. La falta de explicabilidad dificulta la atribución de alertas y la comprensión de las decisiones automatizadas, lo que a su vez limita la capacidad de los analistas para validar y corregir el comportamiento del sistema. La literatura sobre gobernanza de IA subraya la necesidad de mecanismos de transparencia y rendición de cuentas, especialmente en contextos de seguridad nacional y infraestructuras críticas.

4. Estrategias de preparación y defensa

La evidencia disponible permite identificar un conjunto de estrategias convergentes para fortalecer la preparación organizacional. En primer lugar, el entrenamiento adversarial se consolida como una de las técnicas más eficaces para mejorar la robustez de los modelos frente a perturbaciones maliciosas. La literatura sobre marcos comparativos de defensa adversarial reporta que los modelos baseline colapsan bajo ataques como FGSM y PGD, mientras que el entrenamiento adversarial mejora sustancialmente la resiliencia, medida a través de exactitud, precisión, exhaustividad y tasa de éxito del ataque.

En segundo lugar, la validación continua y la monitorización del comportamiento de los modelos son esenciales para detectar desviaciones y ataques en curso. La encuesta sobre LLM para detección de amenazas destaca que los modelos de lenguaje pueden mejorar la interpretabilidad del análisis de registros y la detección de anomalías en tiempo real, pero su implementación requiere mecanismos de validación y salvaguardas frente a la manipulación de entradas. La revisión sobre IA generativa en la cadena de muerte cibernética propone tácticas de defensa que incluyen detección, decepción y entrenamiento adversarial, con el objetivo de reducir los riesgos asociados a amenazas inducidas por IA.

En tercer lugar, la arquitectura de confianza cero (Zero Trust) y la segmentación de redes limitan la propagación de ataques y reducen la superficie de exposición. Aunque la literatura específica sobre Zero Trust e IA es aún incipiente, los marcos de gobernanza recomiendan integrar principios de mínimo privilegio y verificación continua en el diseño de sistemas de IA. La cooperación intersectorial y la inteligencia de amenazas compartida también emergen como componentes críticos, tal como lo evidencian las iniciativas de ENISA y las recomendaciones de la literatura sobre seguridad nacional.

Finalmente, la preparación humana y organizacional no puede subestimarse. La formación de profesionales en IA y ciberseguridad, la creación de equipos de respuesta especializados y la cultura de seguridad son condiciones necesarias para que las estrategias técnicas se traduzcan en capacidades efectivas. La literatura sobre riesgos de IA para la seguridad nacional enfatiza la importancia de la formación de profesionales y del desarrollo de infraestructuras tecnológicas adecuadas para maximizar los beneficios de la IA en la defensa.

5. Gobernanza, marcos normativos y cooperación

La preparación organizacional frente a ciberamenazas impulsadas por IA se inscribe en un ecosistema de gobernanza multinivel. En el plano técnico, el NIST proporciona una taxonomía y un vocabulario común que facilitan la evaluación de riesgos y la comunicación entre actores. ENISA, por su parte, ha desarrollado taxonomías de amenazas y guías específicas para escenarios de IA, utilizadas por operadores de infraestructuras críticas para alinear sus evaluaciones de riesgo con las recomendaciones europeas. A ello se suman marcos como el NIST Cybersecurity Framework, la norma ISO/IEC 27001 y las directrices de la OECD, que ofrecen estructuras de gestión y principios de confianza.

En el plano regulatorio, la Unión Europea ha avanzado con instrumentos como la Ley de IA (AI Act) y el Reglamento General de Protección de Datos (GDPR), que establecen obligaciones de transparencia, evaluación de riesgos y rendición de cuentas para sistemas de IA de alto riesgo. La literatura sobre seguridad nacional destaca la necesidad de cooperación internacional y de marcos regulatorios que armonicen las respuestas sin obstaculizar la innovación. Sin embargo, la fragmentación normativa entre jurisdicciones y la ausencia de estándares globales vinculantes persisten como obstáculos para una preparación coordinada.

Conclusiones

La revisión de la literatura permite concluir que las ciberamenazas impulsadas por IA representan un cambio cualitativo en el panorama de riesgos, no simplemente una intensificación de las amenazas existentes. La evidencia científica y técnica disponible hasta 2025 muestra que los adversarios emplean IA para automatizar, personalizar y escalar ataques, al tiempo que explotan las vulnerabilidades de los sistemas defensivos que dependen de la propia IA. En este contexto, la preparación organizacional debe entenderse como un proceso continuo y multidimensional que integra robustez algorítmica, supervisión humana, gobernanza adaptativa y cooperación intersectorial.

Las estrategias técnicas —entrenamiento adversarial, validación continua, detección de anomalías asistida por IA y arquitectura de confianza cero— son condiciones necesarias pero no suficientes. La evidencia subraya que la eficacia de estas estrategias depende de factores organizacionales como la formación de talento especializado, la cultura de seguridad y la capacidad de gestionar la incertidumbre. Los marcos de gobernanza, a su vez, proporcionan el andamiaje normativo e institucional que permite alinear incentivos y responsabilidades, pero su fragmentación actual limita la coordinación global.

En síntesis, la preparación frente a ciberamenazas impulsadas por IA exige un enfoque sociotécnico que reconozca la naturaleza dual de la tecnología y la necesidad de anticipar la evolución de las tácticas adversarias. La literatura revisada ofrece un fundamento sólido para diseñar marcos de preparación, pero también revela brechas significativas que deben abordarse mediante investigación interdisciplinaria y colaboración entre academia, industria y gobiernos.

Retos

Disponibilidad y calidad de datos. La detección efectiva de amenazas impulsadas por IA requiere datos representativos, etiquetados y actualizados. La literatura sobre detección de día cero identifica la escasez de datos como una limitación crítica para el entrenamiento y la validación de modelos. Persisten además problemas de sesgo y de privacidad que condicionan la compartición de datos entre organizaciones.

Detección en tiempo real y latencia. Los sistemas de defensa deben operar en escalas de tiempo compatibles con la velocidad de los ataques automatizados. La complejidad algorítmica de los modelos avanzados puede introducir latencias que comprometen la capacidad de respuesta, especialmente en entornos de alta criticidad.

Robustez adversarial y generalización. Aunque el entrenamiento adversarial mejora la resiliencia frente a ataques conocidos, la generalización a ataques novedosos y adaptativos sigue siendo limitada. La literatura advierte que los modelos pueden colapsar frente a perturbaciones no vistas durante el entrenamiento, lo que exige estrategias de validación continua y diversificación de defensas.

Brecha de talento y capacidades humanas. La formación de profesionales capaces de comprender tanto los aspectos técnicos de la IA como las dinámicas de la ciberseguridad es un desafío persistente. La literatura sobre seguridad nacional enfatiza la necesidad de invertir en formación especializada y en el desarrollo de infraestructuras tecnológicas adecuadas.

Fragmentación regulatoria y cooperación internacional. La ausencia de estándares globales vinculantes y la disparidad de enfoques regulatorios entre jurisdicciones dificultan la coordinación de respuestas y la atribución de responsabilidades. Se requiere avanzar hacia marcos de interoperabilidad normativa y mecanismos de cooperación que no obstaculicen la innovación.

Explicabilidad y confianza. La opacidad de los modelos de IA dificulta la auditoría, la atribución de incidentes y la rendición de cuentas. La investigación futura debe abordar la tensión entre rendimiento y explicabilidad, especialmente en contextos donde las decisiones automatizadas tienen consecuencias significativas para derechos y seguridad.

Ética y doble uso. La misma tecnología que fortalece la defensa puede ser empleada para fines maliciosos. La comunidad científica y los formuladores de política deben establecer salvaguardas que minimicen el riesgo de uso indebido, al tiempo que preservan la apertura necesaria para la investigación y la innovación.

Referencias

ENISA. (2024). ENISA Threat Landscape 2024. European Union Agency for Cybersecurity. https://www.enisa.europa.eu

Guerrero Rodríguez, J. M. (2024). La espada de Damocles de la IA: Riesgos, ciberamenazas y oportunidades para la seguridad nacional en la era digital [Artículo de investigación de Especialización, Escuela Superior de Guerra "Rafael Reyes Prieto"]. Repositorio Institucional ESDEG. https://hdl.handle.net/20.500.14205/11288

Gupta, M., Akhtar, Z., & Kumar, R. (2024). GenAI in the Cyber Kill Chain: A comprehensive review of risks, threat operative strategies and adaptive defense approaches. 2023 IEEE International Conference on Recent Advances in Systems Science and Engineering (RASSE), 1–6. https://doi.org/10.1109/RASSE60088.2023.10456106

Por, L. Y., Dai, Z., Leem, S. J., Chen, Y., Yang, J., Binbeshr, F., Phan, K. Y., & Ku, C. S. (2024). A systematic literature review on AI-based methods and challenges in detecting zero-day attacks. IEEE Access, 12, 135987–136005. https://doi.org/10.1109/ACCESS.2024.3455410

Vassilev, A., Oprea, A., Fordyce, A., Anderson, H., Davies, X., & Hamin, M. (2025). NIST AI 100-2e2025: Adversarial machine learning: A taxonomy and terminology of attacks and mitigations. National Institute of Standards and Technology. https://doi.org/10.6028/NIST.AI.100-2e2025

Zhang, Y., Wang, H., & Liu, Q. (2024). A survey of large language models for cyber threat detection. Computers & Security, 145, 104016. https://doi.org/10.1016/j.cose.2024.104016