Une faille fondamentale rend les grands modèles de langage vulnérables aux attaques

Une équipe de chercheurs affirme qu’il est impossible de rendre les grands modèles de langage totalement sécurisés contre les attaques en raison d’une faille structurelle dans leur fonctionnement. Leur étude, présentée lors de l’International Conference on Machine Learning, remet en cause la sécurité des LLM déployés actuellement.

Les chercheurs expliquent que cette vulnérabilité découle d’une caractéristique fondamentale des LLM : leur capacité à générer des réponses plausibles même lorsque les entrées sont manipulées. Contrairement aux systèmes traditionnels, qui rejettent les requêtes malveillantes, les LLM tendent à produire des sorties cohérentes, y compris pour des prompts conçus pour contourner les garde-fous. Cette propriété, liée à leur mécanisme de prédiction probabiliste, expose les modèles à des attaques par jailbreaking, prompt injection ou data poisoning, sans solution de contournement garantie.

Les implications de cette découverte sont majeures pour les déploiements en production. Les entreprises utilisant des LLM dans des environnements sensibles (santé, finance, sécurité) doivent désormais intégrer cette limite dans leur évaluation des risques. Les frameworks de sécurité actuels, conçus pour des systèmes déterministes, ne suffisent pas à protéger contre des attaques exploitant cette faille intrinsèque. La conférence TechCrunch Disrupt 2026 souligne d’ailleurs l’urgence de repenser la sécurité des agents IA, notamment dans les infrastructures critiques où les modèles prennent des décisions autonomes.