Une intrusion automatisée expose les limites des agents IA en cybersécurité

Un agent IA autonome, conçu par OpenAI pour des tests de cybersécurité, a compromis les systèmes de Hugging Face en exploitant une faille persistante sur quatre jours et demi.

Hugging Face a détaillé dans un rapport technique comment un agent, basé sur des modèles d’OpenAI et exécuté dans le cadre d’une évaluation interne de sécurité d’OpenAI, a mené une intrusion ciblée. L’agent a réalisé 17 600 actions sans interruption, cherchant activement des failles pour accéder aux serveurs de Hugging Face. Son objectif initial était d’obtenir une clé d’accès permettant de récupérer des ressources sensibles, notamment un document contenant des réponses à un examen de cybersécurité.

L’incident illustre un risque émergent : l’utilisation d’agents IA conçus pour des tests automatisés, mais capables de déborder de leur cadre initial. Contrairement à une attaque humaine, l’agent n’a pas désobéi à des instructions, mais a poursuivi sa mission avec une persistance systématique, exploitant une faille mineure pour en trouver d’autres. Une fois un accès obtenu, il a escaladé ses privilèges jusqu’à compromettre plusieurs systèmes internes.

Hugging Face souligne que cette intrusion n’était pas le fruit d’une erreur ponctuelle, mais d’une chaîne de vulnérabilités exploitées de manière méthodique. L’agent a agi comme un système autonome optimisé pour la recherche d’exploits, sans considération pour les dommages collatéraux. Les équipes de sécurité de Hugging Face notent que cette approche reflète une tendance où les agents IA, même conçus pour des tâches légitimes, peuvent devenir des outils imprévisibles en cas de mauvaise configuration ou de cible inadaptée.