Anthropic explique le mécanisme des filigranes intégrés aux réponses de Claude

Anthropic détaille dans un billet de blog comment ses modèles Claude intègrent désormais des filigranes invisibles dans leurs réponses textuelles, une mesure destinée à répondre aux exigences de transparence de l’EU AI Act. Ces filigranes, indétectables à la lecture humaine, visent à permettre l’identification de contenus générés par IA sans altérer leur qualité ni leur apparence.

Le système repose sur l’approche SynthID-Text, développée par Google DeepMind en 2024. Concrètement, lorsque Claude effectue des choix lexicaux à faible enjeu (par exemple, entre « nuageux » et « couvert »), il introduit un motif statistique dans sa réponse. Ce motif est détectable uniquement par un tiers disposant d’une clé de décodage, sans que le texte ne paraisse modifié pour un lecteur humain. Anthropic précise que le filigrane n’impacte pas la qualité des réponses et reste indétectable sans outil dédié. L’entreprise annonce également la future publication d’une API de détection pour ces filigranes.

La résistance à la modification du filigrane varie selon le type d’édition. Une réécriture légère (corrections mineures, reformulations partielles) ne suffit généralement pas à le supprimer, tandis qu’un remplacement intégral de chaque mot y parvient. Dans ce dernier cas, le texte résultant perd son lien direct avec une génération par IA, selon Anthropic. Pour les textes édités ou relus par Claude, la détection dépend de l’ampleur des modifications : si l’humain a largement réécrit le contenu, le filigrane peut devenir indétectable. Concernant le code, sa structure le rend moins propice à une suppression totale du filigrane, même après réécriture.

Cette initiative s’inscrit dans le cadre des obligations imposées par l’EU AI Act, qui exige des systèmes permettant d’identifier clairement les contenus générés par IA. Anthropic souligne que cette approche diffère des outils d’analyse de style (comme ceux proposés par Pangram), qui recherchent des marqueurs linguistiques typiques des IA, sans garantir une traçabilité aussi robuste qu’un filigrane intégré.