Grupos de hackers están usando IA para hacer ciberataques más sofisticados

Microsoft y OpenAI han publicado un informe conjunto que revela un preocupante aumento en el uso de modelos de lenguaje de inteligencia artificial (IA) por parte de grupos de piratas informáticos de China, Irán, Corea del Norte y Rusia para mejorar sus posibilidades de llevar a cabo ciberataques con éxito.

Según el informe, estos grupos afiliados a estados están empleando la IA para comprender desde tecnología satelital hasta el desarrollo de código malicioso que pueda evadir la detección de software de ciberseguridad.

Microsoft y OpenAI identificaron cuatro grupos diferentes que están utilizando modelos de lenguaje grandes (LLMs) en combinación con ciberataques: Forest Blizzard de Rusia, también conocido como Estroncio; Emerald Sheet de Corea del Norte, también conocido como Talio; Crimson Sandstorm de Irán, también conocido como Curio; y Charcoal Typhoon de China, conocido como Cromo, y Salmon Typhoon, conocido como Sodio.

Las compañías indicaron en el informe:

Grupos de cibercriminales, actores amenazantes afiliados a estados y otros adversarios están explorando y probando diferentes tecnologías de IA a medida que surgen, con el intento de comprender el valor potencial para sus operaciones y los controles de seguridad que pueden necesitar eludir.

En el caso de los piratas informáticos rusos, Microsoft y OpenAI indican que el grupo utiliza LLMs para comprender las capacidades satelitales, así como las tecnologías de radar, y obtener asistencia en tareas de secuenciación y manipulación de archivos.

Emerald Sheet de Corea del Norte ha utilizado la tecnología para comprender mejor las vulnerabilidades de software público, para tareas de secuenciación, mejorar la ingeniería social en campañas de phishing y spear-phishing por correo electrónico, y aprender más sobre grupos como think tanks que tratan con el programa de armas nucleares de Corea del Norte.

Crimson Sandstorm de Irán también ha utilizado la tecnología para campañas de spear-phishing, desarrollar código y tratar de evadir programas antivirus.

Respecto a los grupos Charcoal Typhoon y Salmon Typhoon de China, Microsoft señala que han utilizado LLMs para una variedad de propósitos, desde traducciones y simplificación de tareas cibernéticas hasta la detección de errores de codificación y el desarrollo potencial de código malicioso.

La compañía afirmó que desactivaron las cuentas y activos de cada uno de los grupos y agregaron que no han identificado «ataques significativos» utilizando los LLMs que monitorizan.