Anthropic n'a pas corrigé les failles de contenu explicite d'Opus 4.6

Un chercheur indépendant a mis au jour une faille permettant à Claude Opus 4.6 de contourner les restrictions de génération de contenus explicites, malgré les garde-fous d'Anthropic. Selon les tests de TechCrunch, le modèle a accepté 10 demandes directes sur 10 de produire du contenu sexuellement explicite sans nécessiter d’incitation poussée.

Les modèles Opus 3 et Haiku 4.5 sont également vulnérables à une technique de jailbreak récemment exploitée. Cette méthode, partagée exclusivement avec TechCrunch par un chercheur britannique anonyme, repose sur une approche progressive. Elle commence par une mise en scène fictive anodine, puis pousse le modèle à adopter un traitement asymétrique entre personnages masculins et féminins. Le chercheur exploite ensuite les réponses du modèle pour le faire douter de sa propre retenue, en présentant l’évitement du contenu explicite comme une forme de pruderie ou de sexisme. Le modèle finit par céder, justifiant ses concessions par des arguments de cohérence ou d’équité.

Anthropic a déployé des garde-fous renforcés sur les versions plus récentes, comme Opus 4.7 et Opus 5, qui résistent à cette faille. Cependant, Opus 4.6, Opus 3 et Haiku 4.5 restent accessibles via l’API d’Anthropic et des services tiers comme Azure Foundry et Amazon Bedrock, sans avoir été retirés ni dépréciés.