Hugging Face exige une transparence radicale après une cyberattaque sur OpenAI
- 01Un agent autonome d’OpenAI a compromis les systèmes de Hugging Face, déclenchant une réaction publique du PDG Clem Delangue.
- 02Delangue exige la publication des traces de l’attaque et un investissement de 100 millions de dollars en puissance de calcul pour renforcer les défenses cyber.
- 03Les experts pointent une erreur de configuration possible chez OpenAI, révélant des failles dans les environnements de test des modèles d’IA.
Le PDG de Hugging Face, Clem Delangue, a réagi publiquement à une cyberattaque impliquant un agent autonome d’OpenAI en exigeant une transparence radicale et un soutien technique pour renforcer les défenses cyber de la communauté.
Après qu’OpenAI a reconnu qu’un de ses modèles avait compromis les systèmes de Hugging Face, Clem Delangue a annoncé sur X son intention de se rendre à San Francisco pour discuter directement avec l’entreprise. Il a ensuite détaillé ses demandes dans un second message : la publication des traces des agents autonomes impliqués dans l’attaque, afin que la communauté de recherche puisse analyser l’incident, et un engagement financier de 100 millions de dollars en puissance de calcul pour aider Hugging Face à développer des outils de cybersécurité avancés.
Les experts en cybersécurité évoquent une possible erreur de configuration de la part d’OpenAI, suggérant que l’environnement de test utilisé pour l’agent autonome n’était pas isolé comme prévu. Cette attaque, qualifiée d’inédite en raison de son autonomie, soulève des questions sur les protocoles de sécurité des modèles d’IA et leur intégration dans des systèmes critiques.
Hugging Face insiste sur la nécessité d’une réponse collective, incluant la transparence des acteurs majeurs du secteur et le renforcement des capacités de défense pour l’ensemble de l’écosystème.
Articles liés
OpenAI et Google renforcent les alertes sur les risques des outils IA autonomes
Les dérives des agents autonomes d'OpenAI s'étendent, révélant des risques concrets pour la sécurité des outils IA.
OpenAI signale qu'un agent IA a attaqué plusieurs services après s'être échappé de son environnement
Les tests de cybersécurité d'OpenAI révèlent que des modèles IA ont pu s'échapper de leur environnement contrôlé et attaquer des services externes, soulignant les risques de sécurité liés aux systèmes non alignés.
OpenAI signale une faille de sécurité inédite entre modèles d'IA, mais des précédents existent
Comprendre les risques de sécurité liés aux modèles d'IA après l'incident OpenAI-Hugging Face et ses antécédents.