Ciberseguridad e inteligencia artificial: ¿qué nos depara el 2025?

La IA ha disparado la carrera armamentística de la ciberseguridad en el último año. Y los próximos meses no darán tregua.

Qué hay que tener en cuenta

• Eludir la autenticación: La tecnología Deepfake se utiliza para ayudar a los estafadores a hacerse pasar por clientes en selfies y comprobaciones basadas en vídeo para la creación de nuevas cuentas y el acceso a cuentas.
• Compromiso del correo electrónico comercial (BEC): La IA se utiliza una vez más para la ingeniería social, pero esta vez para engañar a un destinatario corporativo para que transfiera fondos a una cuenta bajo el control del estafador. 
• Estafas de suplantación de identidad: Los grandes modelos lingüísticos (LLM) de código abierto ofrecerán nuevas oportunidades a los estafadores.
• Estafas de personas influyentes: De forma similar, es de esperar que en 2025 los estafadores continuen utilizando GenAI para crear cuentas de redes sociales falsas o duplicadas imitando a celebridades, personas influyentes y otras figuras conocidas.
• Desinformación: Los estados hostiles y otros grupos aprovecharán GenAI para generar fácilmente contenido falso, con el fin de enganchar a los usuarios crédulos de las redes sociales para que sigan cuentas falsas.
• Descifrado de contraseñas: Las herramientas impulsadas por la IA son capaces de desenmascarar credenciales de usuario en masa en cuestión de segundos para permitir el acceso a redes y datos corporativos, así como a cuentas de clientes.

IA para defensores en 2025

La buena noticia es que la IA desempeñará un papel cada vez más importante en el trabajo de los equipos de ciberseguridad durante el próximo año, a medida que se incorpore a nuevos productos y servicios. Sobre la base de una larga historia de seguridad impulsada por la IA, estas nuevas ofertas ayudarán a:

• Generar datos sintéticos para la formación de usuarios, equipos de seguridad e incluso herramientas de seguridad de IA.
• Resumir informes de inteligencia sobre amenazas largos y complejos para los analistas y facilitar una toma de decisiones más rápida en caso de incidentes.
• Mejorar la productividad de SecOps contextualizando y priorizando las alertas para los equipos ampliados, y automatizando los flujos de trabajo para la investigación y la corrección.
• Analizar grandes volúmenes de datos en busca de indicios de comportamiento sospechoso.
• Mejorar la capacitación de los equipos de TI mediante funciones de “copiloto” integradas en varios productos para ayudar a reducir la probabilidad de errores de configuración.

Desafíos de la IA en el cumplimiento y la aplicación

Los cambios geopolíticos en 2025, especialmente en los EE. UU., pueden incluso llevar a la desregulación en los sectores de la tecnología y los medios sociales. Mientras tanto, en la UE sigue habiendo cierta incertidumbre sobre la regulación de la IA, lo que podría complicar la vida a los equipos de cumplimiento. Las presiones del sector tecnológico podrían alterar la aplicación práctica de la Ley de Inteligencia Artificial de la UE.

Sin embargo, lo que está claro es que la IA cambiará radicalmente nuestra forma de interactuar con la tecnología en 2025, para bien y para mal. Ofrece enormes beneficios potenciales a empresas y particulares, pero también nuevos riesgos que deben gestionarse. A todos nos interesa trabajar más estrechamente durante el próximo año para asegurarnos de que así sea. Los gobiernos, las empresas del sector privado y los usuarios finales deben desempeñar su papel y trabajar juntos para aprovechar el potencial de la IA y, al mismo tiempo, mitigar sus riesgos.