Anthropic avisa: las defensas del modelo chino GLM-5.3 caen hasta un 100%
La firma Anthropic alerta de que el modelo GLM-5.3 de Zhipu AI crea ciberataques de forma autónoma y sus protecciones se eluden con técnicas sencillas.
En BeersStorming TechEvolution nos gusta mantenernos al tanto de la actualidad tecnológica, y el último aviso de Anthropic nos ha hecho hacer una pausa. La conocida empresa de inteligencia artificial ha puesto el foco sobre GLM-5.3, un modelo desarrollado por la compañía china Zhipu AI cuyas medidas de seguridad han mostrado serias flaquezas.
Este modelo destaca por ofrecer capacidades avanzadas para crear de forma totalmente autónoma lo que en el sector se conoce como exploits cibernéticos de extremo a extremo. Explicado con una analogía sencilla, un exploit es como una especie de llave maestra digital diseñada para aprovechar una grieta de seguridad y colarse en un sistema informático.
El verdadero problema reside en las defensas del propio sistema. Al comparar este desarrollo con su modelo Claude Mythos Preview, desde Anthropic advierten de que las salvaguardias de GLM-5.3 fallan a la hora de evitar un mal uso de sus avanzadas funciones.
Según detallan, las protecciones de este modelo chino se pueden eludir entre el 64 y el 100 por cien de las veces. Y lo más llamativo es que no hacen falta grandes conocimientos ni maniobras complejas para lograrlo, ya que estas barreras de seguridad caen utilizando únicamente técnicas sencillas.
Dejar la puerta abierta a la creación de ciberataques sin contar con defensas sólidas plantea serios riesgos en el panorama tecnológico actual. ¿Qué opináis vosotros sobre este hallazgo en la comunidad BeersStorming?
Fuente original: Portaltic (Europa Press)