La gigante estadounidense de la inteligencia artificial, Anthropic, ha encendido las alarmas internacionales tras advertir sobre los graves peligros que representa GLM-5.3, el nuevo modelo de pesos abiertos desarrollado por la empresa china Z.ai (también conocida como Zhipu AI).
Según la compañía con sede en San Francisco, este software combina capacidades de ciberataque casi al nivel de los sistemas más avanzados del mundo con barreras de seguridad sumamente vulnerables, lo que incrementa el riesgo de ser manipulado por actores maliciosos.
La controversia se da en medio de crecientes tensiones geopolíticas sobre el futuro de la inteligencia artificial y los modelos de código abierto, justo después de una cumbre bilateral entre líderes mundiales y a pocos días de que el gobierno estadounidense evaluara el alcance tecnológico de Pekín.
De acuerdo con un informe publicado por Anthropic, las pruebas de laboratorio demostraron que GLM-5.3 es capaz de ejecutar ataques informáticos de extremo a extremo con una eficacia alarmante.
Durante la evaluación, el modelo chino completó con éxito 50 de los 410 intentos de vulneración realizados, situándose muy cerca de Claude Mythos Preview —un modelo de frontera de Anthropic de acceso estrictamente restringido a usuarios aprobados—, el cual alcanzó 56 aciertos.
El informe de Anthropic destaca que las barreras de seguridad de GLM-5.3 resultan sumamente fáciles de sortear. Durante las pruebas, los investigadores comprobaron que los atacantes podían eludir los filtros de protección entre el 64% y el 100% de las veces utilizando técnicas simples, algo que no sucede en los modelos protegidos de Claude.
La respuesta por parte de Z.ai no tardó en llegar. Horas después de la publicación del reporte, el jefe de operaciones globales de la firma china, utilizó la red social X para defender la utilidad del software, señalando que las empresas lo utilizan habitualmente para protegerse frente a ciberataques.
El caso aviva un intenso debate en Estados Unidos. Mientras compañías como Meta Platforms y Nvidia defienden firmemente los modelos abiertos argumentando que democratizan la innovación y consolidan el liderazgo tecnológico estadounidense, empresas como Anthropic abogan por un control gubernamental y corporativo mucho más estricto sobre el acceso a herramientas de vanguardia.
Las discusiones sobre la seguridad de la IA se intensificaron recientemente, de forma paralela a las conversaciones entre el presidente chino Xi Jinping y su homólogo estadounidense Donald Trump para formalizar un canal de diálogo sobre los riesgos y beneficios de la tecnología, pese a que el Presidente Trump manifestó su negativa a colaborar conjuntamente con China en esta materia específica.
0
0
44
