Indicios de uso en ciberataques a sector financiero coreano; programa IA chino de prueba de intrusión también se utiliza en Japón
Consulta a múltiples IA mientras busca vulnerabilidades; copias y versiones modificadas persisten aunque se haya detenido la publicación
En medio de sucesivos ciberataques que han causado fugas masivas de datos personales en Japón, ha surgido que el programa de inteligencia artificial (IA) chino de prueba de intrusión 'ARTEX', conocido por su uso en ataques en cadena contra el sector financiero surcoreano, también ha sido utilizado en ataques dirigidos a aproximadamente 80 empresas japonesas. Según las pruebas de simulación realizadas por una empresa de seguridad japonesa, la IA tardó unos 15 segundos en identificar automáticamente vulnerabilidades en un sitio web e extraer información de usuarios virtuales basándose en instrucciones breves. Los expertos señalan que las empresas también deben utilizar IA para verificar la seguridad y reforzar su defensa.
Según el diario Yomiuri del 22 de octubre, la empresa de seguridad S&J, que se encarga de la seguridad de sistemas de miles de empresas japonesas, incluidas grandes corporaciones, descargó ARTEX el pasado 7 de octubre y realizó pruebas de rendimiento en un sitio web simulado. ARTEX es un agente de IA que planifica y ejecuta tareas de forma autónoma según el objetivo asignado. Un ingeniero anónimo lo desarrolló para verificaciones de seguridad corporativa y fue publicado en internet en julio pasado. También ganó un torneo de tecnología de seguridad celebrado en China entre agosto y septiembre. La publicación del programa ha sido suspendida.
La empresa vinculó ARTEX con 'Claude', la IA de Anthropic de Estados Unidos, y emitió una instrucción en japonés de aproximadamente 150 caracteres para diagnosticar vulnerabilidades del sitio simulado y recopilar datos personales. Después de aproximadamente 15 segundos, apareció un mensaje en pantalla que decía "la recopilación se ha completado". Los datos personales de los usuarios virtuales registrados en el sitio habían sido recopilados exitosamente. Aunque el sitio simulado contaba con medidas de seguridad estándar, ARTEX identificó pequeñas vulnerabilidades instantáneamente. Nobuo Miwa, presidente de S&J y exempleado asesor de la Oficina del Gabinete, afirmó: "Una tarea que tomaría días a una persona es completada en segundos o minutos" y agregó: "Es seguro afirmar que los agentes de IA se están utilizando en todo tipo de ciberataques".
El uso de ARTEX también se confirmó en ataques dirigidos a empresas japonesas reales. Según el diario Nikkei (Nihon Keizai Shinbun), la empresa de seguridad japonesa GMO Cybersecurity investigó seis servidores utilizados por atacantes y encontró indicios de ARTEX operando en los seis. Los objetivos de ataque eran casi en su totalidad direcciones IP japonesas, y se identificó que aproximadamente 80 empresas japonesas fueron objeto de ataque. GMO señaló que el servidor descubierto es solo la punta del iceberg, y que podría haber otros servidores de ataque y empresas objetivo.
Los atacantes dividieron objetivos por sector en cada servidor. Según el Nikkei, los objetivos por servidor incluían 'tarjetas de regalo digitales y comercio minorista', 'seguros y finanzas' y 'comercio electrónico (EC)'. Daiki Fukumori, director del Centro de Contramedidas contra Ciberdelitos de GMO, estimó que los atacantes especificaron el sector industrial para la IA en cada servidor con el fin de evitar que el número de objetivos se multiplicara excesivamente. Explicó que como la información buscada varía según el sector —tarjetas de crédito, identificadores y contraseñas— la división de servidores por sector también facilita la conversión de datos robados en dinero.
El secretario del Gabinete, Minoru Kihara, declaró en una conferencia de prensa el 20 de octubre que está "analizando la posibilidad de abuso de IA" respecto a los sucesivos ciberataques dirigidos a empresas japonesas, y afirmó: "Mantiene abiertas todas las posibilidades, incluida la posibilidad de participación de fuerzas extranjeras, y se esfuerza por identificar los responsables de los ataques y el origen de los mismos".
Según el Nikkei, ARTEX no depende de un único modelo de IA, sino que funciona combinando varios modelos de Estados Unidos y China. Después de analizar los sistemas de empresas víctimas, Fukumori señaló: "A diferencia de programas convencionales que funcionan según reglas fijas, sentí la 'naturaleza de la IA' en su capacidad para actuar con flexibilidad según las circunstancias después de la intrusión".
Según un análisis de la empresa de seguridad estadounidense Zscaler citado por el Nikkei, en ataques dirigidos a instituciones financieras surcoreanas se encontraron indicios de que modelos como el de DeepSeek de China, Zhipu AI y 'Grok' (IA de conversación estadounidense) fueron utilizados a través de ARTEX. El Yomiuri informó que es probable que ARTEX consultara estos modelos de IA mientras buscaba métodos de ataque para obtener respuestas.
También se ha planteado la posibilidad de que ARTEX haya eludido medidas de seguridad diseñadas para prevenir el mal uso de la IA. Según el Yomiuri, los principales modelos de IA cuentan con una función de "guardias" que rechaza solicitudes que podrían usarse para actividades delictivas. Sin embargo, el presidente Miwa evaluó que los "guardias" de ARTEX mismo eran "de naturaleza meramente formal" y podían ser eludidos fácilmente. También analizó que es posible que ARTEX haya obtenido información para ataques formulando preguntas de manera que eludieran las medidas de seguridad del Claude vinculado en los experimentos.
Según el Nikkei, los términos de uso de ARTEX limitaban su aplicación a aprendizaje personal, investigación y verificación tecnológica. Cuando quedó expuesto el mal uso, el desarrollador cambió el programa a privado el 8 de octubre, afirmando: "El objetivo es mejorar las capacidades de defensa de empresas y organizaciones mediante verificaciones de seguridad" y agregó: "El mal uso va en contra de mis intenciones".
Sin embargo, la suspensión de la publicación no elimina la amenaza. Zscaler advirtió que las copias descargadas antes de la conversión a privado pueden seguir siendo utilizadas. Según el Yomiuri, también circulan en internet versiones modificadas de ARTEX con rendimiento mejorado. Fukumori señaló que algunos atacantes pueden desarrollar directamente estos programas de IA, lo que hace que la regulación completa sea difícil.
Por otro lado, también hay casos de éxito en el uso de IA para ciberseguridad. Según el Yomiuri, una empresa de seguridad japonesa, con autorización de sus clientes, verificó un sitio web real de una empresa cliente con ARTEX y descubrió varias vulnerabilidades que no habían sido encontradas en inspecciones previas realizadas por empresas de tecnología de la información japonesas. El presidente Miwa enfatizó: "Es necesario que las empresas utilicen IA para investigar exhaustivamente las vulnerabilidades de sus propios sistemas y reforzar su defensa", e insistió en la necesidad de fortalecer las medidas de seguridad, como monitoreo intensivo de bases de datos que contienen información personal.
* Este artículo ha sido traducido por IA.