L'écart de sécurité persiste entre modèles IA open-weight et frontaliers malgré des capacités proches

Une étude de l'ONG SaferAI révèle que le modèle chinois GLM-5.2 de Z.ai, modèle open-weight, rivalise désormais avec les leaders du secteur comme OpenAI ou Anthropic sur des tâches techniques complexes, notamment en cybersécurité et biologie. Cependant, les écarts en matière de sécurité restent marqués, soulignant les risques liés à la diffusion de modèles accessibles sans contrôle strict.

Selon les tests menés par SaferAI via l’API publique de Z.ai, GLM-5.2 a exécuté sans refus l’intégralité des tâches offensives en cybersécurité et biologie duale qui lui ont été soumises. À l’inverse, Claude Opus 4.7 d’Anthropic a systématiquement bloqué ces mêmes requêtes, au point que l’évaluation n’a pu être menée à terme. Ces résultats illustrent une divergence persistante entre les capacités techniques des modèles open-weight et les mesures de sécurité mises en place par les acteurs frontaliers. Les développeurs de modèles frontaliers s’appuient sur des mécanismes comme des classificateurs, des entraînements de refus ou des restrictions au niveau des API pour limiter les usages dangereux. Pourtant, ces protections restent vulnérables : des travaux comme ceux de Far.ai ont identifié des jailbreaks universels, capables de contourner les garde-fous sur des modèles déployés, y compris ceux de xAI ou Google DeepMind.

Le modèle GLM-5.2 démontre ainsi que les modèles open-weight peuvent désormais atteindre des performances comparables à celles des systèmes les plus avancés, mais leur diffusion sans restrictions soulève des enjeux de gouvernance. Une fois les poids du modèle téléchargés et exécutés localement, les utilisateurs peuvent modifier les systèmes de prompts, désactiver les protections ou adapter le modèle à des usages non encadrés. Z.ai propose des mesures de sécurité via son API hébergée, mais ces dispositifs deviennent inapplicables dès lors que le modèle est utilisé en local. Cette situation interroge sur la capacité des régulateurs et des développeurs à concilier innovation et maîtrise des risques dans un écosystème où les modèles open-weight se démocratisent rapidement.