Google SynthID résiste aux modifications mais ne suffit pas contre la désinformation

Google annonce que SynthID, son outil de watermarking invisible pour les contenus générés par IA, résiste aux tentatives de contournement comme les filtres ou les recadrages. Le système encode un marquage dans les pixels des images, vidéos ou dans les ondes audio, conçu pour persister malgré les transformations courantes sur Internet. Selon des tests internes et des déclarations de chercheurs de Google DeepMind, SynthID maintient son intégrité même après des compressions, redimensionnements ou modifications légères, contrairement aux métadonnées comme celles du C2PA, facilement supprimables par une simple sauvegarde ou un screenshot.

Le déploiement de SynthID s’accélère avec des partenariats annoncés par Google, notamment avec OpenAI, Runway et Nvidia, pour étendre son utilisation à grande échelle. L’objectif est de permettre aux utilisateurs d’identifier plus facilement les contenus générés par IA, dans un contexte où la production massive d’images et vidéos par ces outils rend le tri entre réel et artificiel de plus en plus complexe. Google évoque avoir généré plus de 100 milliards de contenus IA en quelques années, un volume qui illustre l’urgence d’un système de traçabilité fiable.

Pourtant, malgré la robustesse revendiquée de SynthID, les experts soulignent que ce système ne constitue qu’une partie de la solution face à la désinformation. Les watermarks invisibles ne suffisent pas à eux seuls à garantir la confiance des utilisateurs, car leur efficacité dépend de leur adoption généralisée et de la capacité des plateformes à les intégrer dans leurs flux de modération. De plus, leur résistance aux attaques reste à prouver dans des environnements hostiles, où des acteurs malveillants pourraient développer des techniques spécifiques pour les effacer. Enfin, même si SynthID persiste dans les contenus transformés, il ne fournit pas d’information sur l’origine ou l’intention derrière la création du contenu, laissant ouverte la question de la vérification des faits.