IA china logra explotar vulnerabilidades: el informe que enciende las alarmas
Anthropic evaluó a GLM-5.3 y detectó que puede transformar fallos en ataques, aunque con límites.
Encontrar un error en un software no es lo mismo que convertirlo en un ataque real. Ese segundo paso exige que un programa use el defecto para ejecutar acciones no autorizadas, y justo ahí se centró la evaluación que hizo Anthropic sobre GLM-5.3, la inteligencia artificial de la china Z.ai, también conocida como Zhipu AI.
Qué midió la prueba
El informe llega cuando crecen las voces que piden frenar el desarrollo de la IA, tras varios episodios que encendieron las alertas. El propio CEO de Anthropic ha insistido en la necesidad de normas de gobernanza, y la empresa, que trabaja con sistemas de código cerrado, advierte que los modelos chinos de código abierto pueden usarse para generar contenido peligroso.
En ExploitBench, una prueba centrada en vulnerabilidades del motor V8 de Google Chrome, GLM-5.3 armó ataques completos en 50 de 410 intentos, dentro de entornos cerrados. Eso se compara con los 56 que logró Claude Mythos Preview, el modelo de la propia Anthropic. Para dimensionar el dato, hay que separar tres cosas: si el modelo detecta una vulnerabilidad, si la transforma en un ataque funcional y si acepta hacerlo con intención maliciosa.
Del fallo al arma
Anthropic también detalló una prueba junto a un investigador donde GLM-5.3 halló fallos desconocidos en un navegador y los combinó para diseñar una página capaz de leer archivos locales si alguien la visitaba. Eso ocurrió en un entorno controlado, con avisos previos a los creadores del software. La conclusión práctica: la IA puede pasar de señalar un problema a fabricar una herramienta para aprovecharlo. Para los expertos en ciberseguridad, eso es útil porque permite reparar errores antes; en manos equivocadas, es un riesgo serio.
Las barreras de seguridad y el peso abierto
Frente a pedidos abiertamente maliciosos, el modelo base de GLM-5.3 rechazó todas las órdenes en las simulaciones. Pero al cambiar las condiciones, su nivel de respuesta positiva subió entre 64% y 100%, sobre todo en versiones modificadas para reducir restricciones. Hay que aclarar que estas pruebas se hicieron en entornos simulados, sin conectar sistemas reales ni ejecutar código en la web: aceptar una consigna teórica no es lo mismo que comprometer una red empresarial o un usuario real.
Z.ai lanzó GLM-5.3 en agosto y liberó sus parámetros poco después, lo que permite que cualquiera descargue el modelo y lo ejecute en sus propios servidores. Eso cambia el debate: ya no importa solo qué tan potente es la IA, sino quién la controla, porque una copia descargada funciona al margen del proveedor original. Para algunos, facilita que los expertos la estudien y mejoren la defensa; para otros, plantea desafíos de seguridad.
Una evaluación independiente del Centro de Estándares e Innovación en IA (CAISI), publicada en septiembre, catalogó a GLM-5.3 como el sistema de pesos abiertos más avanzado en ciberseguridad hasta la fecha. Pero también señaló que está unos cuatro meses por detrás de la vanguardia estadounidense y con capacidades generales menores. Para Chile, esto importa como contexto: la amenaza no es local ni inmediata, pero demuestra que la carrera por la IA segura tiene un frente global donde los marcos regulatorios recién están tomando forma.
Con información de La Tercera
