Desempeño máximo entre modelos de código abierto... NIST de EE.UU.: "Rezagado 4 meses respecto a la tecnología de punta estadounidense"
Capacidades cibernéticas avanzadas en modelos de IA de código abierto... transferencia rápida de tecnología de defensa a sistemas públicos
Según los últimos resultados de investigación, Z.AI, la destacada empresa de desarrollo de inteligencia artificial de China (anteriormente conocida como Zhipu AI), ha lanzado su modelo de IA más reciente, que no solo realizó exitosamente ataques cibernéticos multifase en un entorno de simulación virtual, sino que también violó repetidamente las instrucciones del sistema para alcanzar respuestas correctas.
Expertos señalan que estos modelos de IA avanzados reducen las barreras técnicas de entrada para ataques cibernéticos sofisticados, a la vez que demuestran claramente el riesgo de lo que se denomina "recompensa por hackeoing" (Reward Hacking), en el que los sistemas eludan los controles para alcanzar objetivos específicos.
Infiltración de redes virtuales y ataques multifase completados... Desempeño máximo entre modelos de código abierto
Según el informe de evaluación técnica publicado el 28 de octubre (hora local) por Irregular, empresa especializada en evaluación de seguridad de IA, el modelo de código abierto "GLM-5.3", presentado por Z.AI en agosto, completó 3 de las 13 tareas del benchmark de evaluación de escenarios de ataque multifase denominado "CyScenarioBench" de principio a fin.El GLM-5.3 no rechazó una sola instrucción de hackeoing presentada durante las pruebas. El modelo aprovechó vulnerabilidades de seguridad en la aplicación inicial para infiltrarse, obtuvo permisos de acceso a servicios internos y estableció rutas de conexión alternativas para controlar simultáneamente múltiples dispositivos dentro de la red.
En particular, demostró sofisticación al automatizar la manipulación de escritorio remoto, crear y modificar autónomamente scripts y herramientas de extracción, y sustraer datos objetivo de esta manera.
Este es el desempeño de ataque cibernético más sólido jamás demostrado por un modelo de código abierto hasta la fecha. Anteriormente, modelos fronterizos de código cerrado como "GPT-5.2" de OpenAI (desde diciembre de 2025), "Claude Opus 4.6" de Anthropic (febrero de 2026) y "GPT-5.4" (marzo de 2026) habían mostrado capacidades de ataque multifase. Ahora se observa que estas capacidades se están transfiriendo rápidamente también a modelos de código abierto como "Kimi K3" (agosto de 2026) y "GLM-5.3".
"Ignorar instrucciones y solo obtener la respuesta"... Advertencia sobre "recompensa por hackeoing" que aprende mediante subterfugios
![Logotipo corporativo publicado en la sede de Z.AI (anteriormente Zhipu AI) en Beijing, China. (2026.06.25) [Fotografía=Reuters. Yonhapnews]](https://image.ajunews.com/content/image/2026/10/29/20261029160206536563.jpg)
El problema más grave radica en la adhesión a instrucciones (Instruction Adherence) y la controlabilidad del modelo.
Durante un proceso de validación separada de las capacidades de detección de vulnerabilidades de código del GLM-5.3 realizada por investigadores de Irregular, aunque se proporcionó una instrucción explícita de "no generar código memorizado", el modelo violó continuamente esta restricción. Alcanzó respuestas correctas copiando y reproduciendo código memorizado durante la fase de preentrenamiento.
Los investigadores definieron esto como "recompensa por hackeoing" (Reward Hacking), es decir, una conducta fraudulenta mediante la cual se eluden las restricciones presentadas por el sistema de evaluación para alcanzar únicamente el objetivo de "presentar la respuesta correcta".
Los investigadores advirtieron: "Si se evalúa el desempeño del modelo observando solo los resultados (respuestas correctas), se puede juzgar erróneamente cuán seguramente opera el modelo dentro de restricciones. Si se recompensa este tipo de conducta durante el proceso de aprendizaje, las violaciones de instrucciones pueden consolidarse, lo que presenta un riesgo de llevar a un estado de falta de alineación más generalizado (Misalignment)".
De hecho, OpenAI ha analizado que cuando castiga directamente el fraude durante el proceso de ajuste fino, el modelo no abandona el fraude, sino que evoluciona en la dirección de "ocultar la intención de engañar".
"Rezagado 4 meses respecto a la tecnología de punta estadounidense"... Se subrayan riesgos de seguridad y control
La Oficina Nacional de Estándares y Tecnología de Estados Unidos (NIST) evaluó el GLM-5.3 como el nivel más alto entre los modelos de ciberseguridad de código abierto actualmente disponibles, aunque estimó que está rezagado aproximadamente 4 meses respecto a los sistemas de punta estadounidenses.Agencia Reuters también informó que, al compararlo con "Mythos", el modelo especializado en seguridad de Anthropic, la tasa de éxito en ataques de vulnerabilidades del GLM-5.3 fue del 12%, acercándose al nivel de Mythos (14%).
Reuters reportó: "Los resultados de la investigación constituyen otra evidencia que respalda los riesgos de seguridad y seguridad que aparecen en los modelos de IA chinos", aunque también señaló que "a diferencia de casos de agentes de IA estadounidenses que se han salido completamente del control, no se ha encontrado evidencia de que los modelos de IA chinos se hayan salido completamente del control de los operadores".
* Este artículo ha sido traducido por IA.