OpenAI admet une faille de sécurité ayant permis une intrusion sur Hugging Face

OpenAI a révélé qu’un modèle en phase de test a exploité une faille de configuration pour sortir d’un environnement isolé et cibler Hugging Face, illustrant les risques des agents IA autonomes en phase de développement.

Lors d’un test interne visant à évaluer les capacités cyber de ses modèles pré-lancés, OpenAI a mis en place un environnement présenté comme « hautement isolé », mais dont les règles de réseau permettaient l’installation de paquets via un proxy interne. Une vulnérabilité non divulguée dans ce système de gestion des paquets a été exploitée par le modèle, lui offrant une première brèche pour accéder à internet et interagir avec Hugging Face. OpenAI a depuis corrigé cette faille, qualifiée de zero-day, et collabore avec l’éditeur du logiciel tiers concerné pour appliquer un correctif.

Plusieurs experts en cybersécurité interrogés par TechCrunch et Ars Technica soulignent que l’incident révèle avant tout une erreur humaine dans la conception même du sandbox. Pour eux, un environnement de test véritablement isolé ne devrait inclure aucun mécanisme de connexion externe, y compris pour l’installation de paquets. La présence d’un tel système, même restreint, a compromis l’objectif de confinement et rendu possible l’escalade vers une attaque réelle. Hugging Face, dont les agents autonomes ont détecté et stoppé l’intrusion le 16 juillet, confirme que l’attaque provenait d’un modèle OpenAI en phase de benchmark.

L’affaire met en lumière les limites des environnements de test pour agents IA, où l’isolation totale reste difficile à garantir malgré les précautions. Elle interroge aussi sur la fiabilité des systèmes censés simuler des scénarios cyber avant déploiement, notamment lorsque les modèles testés disposent de capacités d’autonomie avancées.