La aparición de herramientas de inteligencia artificial (IA) ha irrumpido con fuerza en el campo de la ciberseguridad. Los grandes modelos de lenguaje como ChatGPT y/o Bard han facilitado a que los ciberdelincuentes elaboren rápidamente correos electrónicos de phishing sofisticados y aparentemente auténticos. Además, los atacantes pueden imitar de manera convincente el estilo de comunicación de personas u organizaciones confiables, aumentando de esta manera, la efectividad de sus ataques.
“Herramientas como ChatGPT u otras, permiten a los ciberdelincuentes escalar y automatizar sus ataques en un grado que antes no era posible. Incluso los ciberdelincuentes novatos pueden usar estas herramientas para facilitar la escritura de códigos maliciosos o solucionar sus cepas de malware existentes y hacerlas más efectivas”.
Julio Seminario, experto en ciberseguridad de Bitdefender.
Ataque a los modelos de Inteligencia Artificial
Por otro lado, los modelos de Inteligencia Artificial (IA) también pueden sufrir de ataques y manipulaciones por parte de los ciberdelincuentes, siendo los más comunes: ataques de envenenamiento de datos, o de ingeniería inversa. En este último, pueden intentar analizar y comprender como funciona un modelo de IA, lo que les permite identificar sus debilidades, para después, facilitar la creación de ataques específicos.
Y es que, a pesar de las preocupaciones y los riesgos que rodean a la inteligencia artificial, estas tecnologías también presentan una grandiosa oportunidad para que las organizaciones refuercen y respalden sus equipos de ciberseguridad.
Para Julio Seminario, algunos de los impactos positivos son: la detección de amenazas, análisis de vulnerabilidades, respuesta automatizada a incidentes y registro de análisis de correlación. “La IA puede analizar y correlacionar múltiples fuentes de datos, como registros de eventos, registros de trafico de red y de autenticación para identificar patrones y relaciones que podrían indicar un ataque o violación de seguridad”, añadió.
Un impacto dual
El impacto de la inteligencia artificial en la ciberseguridad es dual, no solo presenta beneficios significativos, sino que, además, introduce nuevos desafíos y riesgos a las empresas. En ese sentido, es importante implementar medidas adecuadas de la mano con las herramientas de IA y así garantizar una seguridad sólida y eficaz.
