**Menos empresas confían en la IA automatizada para detectar vulnerabilidades de seguridad**

—

### 1. Introducción

La inteligencia artificial (IA) ha irrumpido con fuerza en el ámbito de la ciberseguridad, prometiendo acelerar la detección de vulnerabilidades y reforzar la defensa de los sistemas informáticos. Sin embargo, recientes estudios revelan una tendencia a la baja en el uso exclusivo de sistemas automatizados de IA para la identificación de debilidades de seguridad. Aunque las compañías siguen experimentando con estas soluciones, la confianza ciega en la automatización se está erosionando ante los desafíos técnicos y las limitaciones operativas que presenta.

—

### 2. Contexto del Incidente o Vulnerabilidad

En los últimos años, numerosas empresas han implementado herramientas de IA automatizada con el objetivo de optimizar la búsqueda de vulnerabilidades y reducir la superficie de ataque. Plataformas como IBM QRadar, Microsoft Defender for Endpoint y soluciones basadas en aprendizaje profundo han prometido detectar amenazas emergentes con rapidez y precisión. Sin embargo, la proliferación de falsos positivos, la incapacidad para distinguir contextos operativos y la dificultad para adaptarse a entornos complejos han generado preocupación entre los responsables de ciberseguridad.

Según una encuesta reciente publicada en Dark Reading, solo un 38% de las organizaciones afirman confiar plenamente en los sistemas automatizados de IA para la identificación de vulnerabilidades, frente al 54% registrado el año anterior. Este descenso refleja un cambio de paradigma: las empresas ahora combinan análisis automatizados con revisiones humanas, buscando un equilibrio entre eficiencia y precisión.

—

### 3. Detalles Técnicos

Las soluciones de IA automatizada suelen emplear algoritmos de machine learning y procesamiento de lenguaje natural (NLP) para analizar grandes volúmenes de datos —logs, tráfico de red, configuraciones de sistemas— y detectar anomalías que puedan indicar una vulnerabilidad. Los sistemas más avanzados integran frameworks como TensorFlow y PyTorch, y pueden utilizarse tanto en entornos on-premise como en la nube.

No obstante, los ataques modernos utilizan técnicas cada vez más sofisticadas, como el living-off-the-land (LOTL) y la explotación de zero-days, que a menudo pasan desapercibidos para los modelos de IA entrenados con conjuntos de datos históricos. Además, los atacantes han comenzado a utilizar técnicas de evasión de detección basadas en IA adversarial, engañando a los modelos automáticos para que no identifiquen comportamientos maliciosos.

En términos de MITRE ATT&CK, las técnicas más explotadas en estos escenarios incluyen T1086 (PowerShell), T1059 (Command and Scripting Interpreter) y T1218 (Signed Binary Proxy Execution). Los Indicadores de Compromiso (IoC) asociados suelen ser altamente volátiles y difíciles de correlacionar sin intervención humana experta. Por otro lado, los exploits empleados para sortear estos sistemas pueden estar disponibles en frameworks como Metasploit o Cobalt Strike, lo que facilita su acceso a actores maliciosos.

—

### 4. Impacto y Riesgos

La dependencia excesiva de la IA automatizada puede dar lugar a una falsa sensación de seguridad. Los sistemas pueden pasar por alto vulnerabilidades críticas o sobrecargar a los equipos de respuesta con alertas irrelevantes (falsos positivos). Esta situación incrementa el tiempo medio de detección (MTTD) y el tiempo medio de respuesta (MTTR), elevando el riesgo de brechas significativas.

Además, los errores de la IA pueden tener repercusiones legales y económicas. Un fallo en la identificación de una vulnerabilidad explotada podría derivar en sanciones graves bajo el Reglamento General de Protección de Datos (GDPR) o la Directiva NIS2, así como en pérdidas económicas que, según el estudio de IBM Cost of a Data Breach Report 2023, alcanzan los 4,45 millones de dólares de media por incidente.

—

### 5. Medidas de Mitigación y Recomendaciones

Los expertos recomiendan adoptar un enfoque híbrido, combinando la automatización basada en IA con la supervisión de analistas SOC experimentados. Es fundamental:

– Actualizar y reentrenar periódicamente los modelos de IA.
– Integrar feeds de inteligencia de amenazas (Threat Intelligence) en tiempo real.
– Implementar validaciones manuales para alertas críticas.
– Utilizar frameworks de evaluación de seguridad como MITRE ATT&CK para contextualizar los hallazgos.
– Realizar auditorías y pentests regulares, complementando la IA con herramientas como Burp Suite, Nessus o nmap.

—

### 6. Opinión de Expertos

María López, CISO de una entidad bancaria europea, comenta: «La IA es una herramienta valiosa, pero no puede sustituir la experiencia y el juicio humano, especialmente en escenarios donde la creatividad de los atacantes supera la inteligencia estadística de los modelos automáticos».

Por su parte, Joan Martínez, analista de amenazas en un SOC internacional, añade: «La clave es la orquestación: la IA debe ser un apoyo para los analistas, no un sustituto. El análisis contextual y la correlación de eventos siguen siendo tareas donde el factor humano es imprescindible».

—

### 7. Implicaciones para Empresas y Usuarios

Las organizaciones deben replantear sus estrategias de ciberseguridad: la automatización es indispensable para gestionar grandes volúmenes de datos, pero no exime de responsabilidad a los equipos humanos. Es probable que la tendencia de mercado apueste por plataformas XDR (Extended Detection and Response) y SOAR (Security Orchestration, Automation and Response) que integren capacidades de IA bajo supervisión humana.

Para los usuarios, esto se traduce en una mayor garantía de protección, siempre y cuando las empresas mantengan políticas de revisión y actualización constantes. La adaptación a regulaciones como GDPR y NIS2 será más sencilla si se combinan ambos enfoques.

—

### 8. Conclusiones

La IA automatizada sigue siendo una tecnología disruptiva en ciberseguridad, pero su fiabilidad como único mecanismo para la detección de vulnerabilidades está en entredicho. El futuro pasa por enfoques híbridos, donde la inteligencia de las máquinas complemente —pero no sustituya— la pericia de los profesionales humanos. Solo así podrán las organizaciones anticiparse a las amenazas emergentes y cumplir con los exigentes marcos regulatorios actuales.

(Fuente: www.darkreading.com)