Capgemini lanza un nuevo informe sobre cómo la IA y la Generative AI transforman las estrategias de ciberdefensa. «Nuevas defensas, nuevas amenazas: Qué aportan la IA y laGen IA a la ciberseguridad»
La inteligencia artificial (IA) y la inteligencia artificial generativa (Gen IA) están redefiniendo las capacidades de la ciberseguridad en las organizaciones. Según revela este último informe del Instituto de Investigación de Capgemini, a raiz de la proliferación de la IA y la IA generativa (Gen IA) están surgiendo nuevos riesgos para la ciberseguridad, pero de la misma forma estas tecnologías representan un cambio transformador para reforzar las estrategias de ciberdefensa a largo plazo para predecir, detectar y responder a las nuevas amenazas.
La GenIA introduce tres grandes áreas de riesgo para las organizaciones: ataques más sofisticados con más adversarios, la expansión de la superficie de ciberataques y un aumento de las vulnerabilidades en todo el ciclo de vida de las soluciones Gen IA personalizadas. Estos riesgos también se ven agravados por el uso indebido de la IA y la Gen IA por parte de los empleados.
Es por eso que, dos de cada tres organizaciones desconfían de una mayor exposición a las amenazas.
Casi todas las organizaciones encuestadas (97%) reconocen haber sufrido infracciones o problemas de seguridad relacionados con el uso de Gen IA en el último año. La Gen IA también conlleva riesgos adicionales, como por ejemplo la creación de alucinaciones, la generación de contenidos sesgados, dañinos o inapropiados, y los prompt injection attacks.
El 67% de las organizaciones están preocupadas por la intoxicación de datos y la posible filtración de datos confidenciales a través de los conjuntos de datos de entrenamiento utilizados para entrenar los modelos de Gen IA. Además, la capacidad de Gen IA para generar contenidos falsos de gran realismo está planteando riesgos adicionales: el 43% de las organizaciones encuestadas afirmaron haber sufrido pérdidas económicas derivadas del uso de deepfakes.
Por lo que casi 6 de cada 10 empresas creen que necesitan aumentar su presupuesto de ciberseguridad para reforzar sus sistemas de defensa en consecuencia.
Aun así, la IA y la Gen IA son primordiales para detectar y responder a los ataques.
Según el informe, las organizaciones que han pensado en la IA para la ciberseguridad o que ya la utilizan, la mayoría confía en ella para reforzar la seguridad de sus datos, aplicaciones y cloud, debido a la capacidad de la tecnología para analizar rápidamente grandes cantidades de datos, identificar patrones y predecir posibles infracciones.
Más del 60% de ellos informó de una reducción de al menos el 5% en el tiempo de detección, y casi el 40% señaló que su tiempo de corrección se redujo en un 5% o más tras implantar la IA en sus centros de operaciones de seguridad (SOC).
Tres de cada cinco organizaciones encuestadas (61%) creen que la IA es esencial para responder eficazmente a las amenazas, ya que les permite aplicar estrategias de seguridad proactivas contra los cada vez más sofisticados ciberdelincuentes. Además, la misma proporción de encuestados prevé que Gen IA refuerce las estrategias de defensa proactiva a largo plazo, anticipando una detección más rápida de las amenazas. Más de la mitad de ellos también cree que la tecnología permitirá a los analistas de ciberseguridad concentrarse más en la estrategia para combatir amenazas complejas.
“El uso de IA y Gen IA ha demostrado hasta ahora ser un arma de doble filo. Si bien introduce riesgos sin precedentes, las organizaciones confían cada vez más en la IA para una detección más rápida y precisa de los problemas cibernéticos. La IA y Gen IA proporcionan a los equipos de seguridad nuevas y potentes herramientas para mitigar estos incidentes y transformar sus estrategias de defensa. Para garantizar que representan una ventaja clara frente a la sofisticación cambiante de las amenazas, las organizaciones deben mantener y priorizar la supervisión continua del panorama de la seguridad, crear la infraestructura de gestión de datos, los marcos y las directrices éticas necesarios para la adopción de la IA, y establecer sólidos programas deformación y concienciación de los empleados”, subraya Marco Perira, Director Global de Ciberseguridad, Cloud y Servicios de Infraestructura de Capgemini.
Capgemini es un socio global de transformación empresarial y tecnológica, que ayuda a las organizaciones a acelerar su transición dual hacia un mundo digital y sostenible, al tiempo que crea un impacto tangible para las empresas y la sociedad. Es una organización responsable y diversa que cuenta con 340.000 profesionales en más de 50 países. Con una sólida trayectoria de más de 55 años, Capgemini cuenta con la confianza de sus clientes para liberar el potencial de la tecnología y dar respuesta a todas sus necesidades empresariales.
_20230721120857.png)
