Les restrictions des modèles d'IA entravent les chercheurs en cybersécurité offensive

Les restrictions imposées par les fournisseurs de modèles d'IA limitent désormais le travail des chercheurs en cybersécurité offensive, pourtant essentiels à la détection précoce des vulnérabilités critiques.

Depuis plusieurs mois, les géants de l'IA ont mis en place des programmes de vérification et des garde-fous stricts pour empêcher l'utilisation malveillante de leurs modèles. Ces mesures, initialement conçues pour contrer les cyberattaques, affectent désormais les professionnels légitimes de la sécurité, notamment les chercheurs spécialisés dans l'exploitation offensive des failles.

En juin 2026, le gouvernement américain a imposé des restrictions à l'exportation sur les modèles Mythos et Fable d'Anthropic, en partie en raison de rapports évoquant des contournements possibles des garde-fous. Anthropic présentait ces modèles comme des outils hautement sécurisés, réservés à des utilisateurs triés sur le volet et soumis à des restrictions strictes. Ces contrôles, bien qu'assouplis depuis pour Fable 5 (retour à l'accès général le 1er juillet) et partiellement levés pour Mythos 5 (accès restreint aux organisations américaines vérifiées), illustrent la tension entre sécurité et recherche offensive.

OpenAI et Anthropic proposent des programmes dédiés aux chercheurs en cybersécurité, comme Trusted Access for Cyber et Cyber Verification Program, permettant un accès encadré à des modèles avec moins de restrictions. Pourtant, ces dispositifs sont critiqués par des experts comme Mark Dowd, chercheur en sécurité, qui dénonce l'arbitraire des décisions prises par de grandes entreprises sur ce qui est considéré comme "sûr" ou non en matière de cybersécurité. Dowd, connu pour avoir vendu des zero days à des gouvernements occidentaux plutôt que de les signaler aux éditeurs, souligne que ces restrictions pourraient retarder la détection de vulnérabilités exploitables par des acteurs malveillants.

Plusieurs chercheurs interrogés par TechCrunch confirment que les garde-fous actuels compliquent leur travail quotidien. Les outils d'IA, bien que prometteurs pour automatiser la détection de failles, sont désormais bridés par des règles qui ne distinguent pas toujours les usages légitimes des abus potentiels.