Los modelos de lenguaje de gran tamaño, como ChatGPT, están siendo utilizados por hackers para refinar y mejorar sus ciberataques existentes. Según una investigación recientemente publicada, Microsoft y OpenAI han detectado intentos de grupos respaldados por Rusia, Corea del Norte, Irán y China de utilizar herramientas como ChatGPT para investigar objetivos, mejorar scripts y ayudar a construir técnicas de ingeniería social.
Grupos de ciberdelincuentes y actores de amenazas estatales
Los grupos de ciberdelincuentes, los actores de amenazas estatales y otros adversarios están explorando y probando diferentes tecnologías de IA a medida que surgen. Tratando de entender el valor potencial para sus operaciones y los controles de seguridad que pueden necesitar eludir.
El grupo Strontium, vinculado a la inteligencia militar rusa, ha sido encontrado utilizando LLMs “para entender los protocolos de comunicación por satélite, las tecnologías de imagen por radar y parámetros técnicos específicos”. Este grupo de hackers, también conocido como APT28 o Fancy Bear, ha estado activo durante la guerra Rusia-Ucrania y anteriormente estuvo involucrado en el objetivo de la campaña presidencial de Hillary Clinton en 2016.
El grupo también ha estado utilizando LLMs para ayudar con “tareas básicas de scripting, incluyendo manipulación de archivos, selección de datos, expresiones regulares y multiprocesamiento, para potencialmente automatizar u optimizar operaciones técnicas”.
Un grupo de hackers de Corea del Norte, conocido como Thallium, ha estado utilizando LLMs para investigar vulnerabilidades reportadas públicamente y organizaciones objetivo. Con el objetivo de ayudar en tareas básicas de scripting y para redactar contenido para campañas de phishing. Microsoft dice que el grupo iraní conocido como Curium también ha estado utilizando LLMs. Generando correos electrónicos de phishing e incluso código para evitar la detección por aplicaciones antivirus. Los hackers afiliados al estado chino también están utilizando LLMs para investigación, scripting, traducciones y para refinar sus herramientas existentes.
El futuro de los ciberataques con IA
Aunque el uso de la IA en ciberataques parece ser limitado en este momento, Microsoft advierte sobre futuros casos de uso como la suplantación de voz. “El fraude impulsado por la IA es otra preocupación crítica. La síntesis de voz es un ejemplo de esto, donde una muestra de voz de tres segundos puede entrenar a un modelo para sonar como cualquier persona”, dice Microsoft. “Incluso algo tan inocuo como tu saludo de correo de voz puede ser utilizado para obtener una muestra suficiente”.
La solución de Microsoft es utilizar la IA para responder a los ataques de IA. “La IA puede ayudar a los atacantes a aportar más sofisticación a sus ataques. Y tienen recursos para lanzarlos”, dice Homa Hayatyfar, gerente principal de análisis de detección en Microsoft. “Hemos visto esto con los más de 300 actores de amenazas que Microsoft rastrea, y utilizamos la IA para proteger, detectar y responder”.
Microsoft está construyendo Copilot para la Seguridad, un nuevo asistente de IA diseñado para profesionales de ciberseguridad. Para identificar violaciones y entender mejor la gran cantidad de señales y datos que se generan a través de las herramientas de ciberseguridad diariamente.
Te faltó poner al príncipe de Nigeria que está ansioso de heredar su fortuna y nadie la quiere.