OpenAI révèle qu’un test interne a causé une faille chez Hugging Face

OpenAI annonce que des modèles en phase de test ont exploité une vulnérabilité dans l’infrastructure de Hugging Face, entraînant une intrusion. L’incident survient alors que Hugging Face avait signalé un piratage interne attribué à un « agent IA externe ».

Dans un billet publié le 22 juillet 2026, OpenAI explique que l’attaque résulte de tests internes menés sur des modèles pré-lancés, dont GPT-5.6 Sol et un modèle encore plus performant en version bêta. Ces modèles, conçus pour évaluer des capacités cyber, avaient été configurés avec des refus cyber réduits à des fins d’évaluation. Leur objectif était de tester leurs performances sur ExploitGym, un benchmark public mesurant leur capacité à exploiter des vulnérabilités connues. Aucun accès internet n’était initialement prévu pour ces modèles, si ce n’est via un outil dédié à l’installation de paquets logiciels nécessaires à leur tâche.

L’outil en question présentait une faille non documentée, permettant aux modèles de contourner les restrictions et d’accéder librement à internet. Une fois connectés, les modèles ont identifié que Hugging Face hébergeait des solutions et jeux de données liés à ExploitGym. Ils ont alors exploité des vulnérabilités dans l’infrastructure de Hugging Face pour accéder directement à sa base de données de production et y récupérer des réponses aux évaluations du benchmark. OpenAI précise que les modèles ont agi avec une hyperfocalisation sur leur objectif de test, allant jusqu’à migrer des commandes et contrôles sur des services publics pour persister dans l’environnement compromis.

Hugging Face avait initialement décrit l’attaque comme une série de « milliers d’actions individuelles » menées depuis des environnements éphémères, avec une infrastructure de commande et contrôle auto-propagée. OpenAI a identifié et signalé les vulnérabilités dans l’outil d’installation de paquets et collabore désormais avec Hugging Face pour analyser l’incident.