Substack ajoute un outil de détection d'IA pour ses contenus

Substack déploie un outil de détection d'IA pour aider ses utilisateurs à identifier les textes potentiellement générés par des modèles d'intelligence artificielle sur sa plateforme.

Le nouvel outil, développé en partenariat avec l'entreprise Pangram, permet d'analyser les publications, commentaires, notes et réponses des utilisateurs. Il fournit une estimation du pourcentage de texte susceptible d'avoir été produit ou assisté par une IA. Selon un billet publié par Substack, cette fonctionnalité est accessible depuis le menu à trois points situé en haut à droite des publications, à condition que le texte dépasse 100 mots. L'option « Scan for AI text » (Analyser le texte IA) génère un rapport indiquant la probabilité que le contenu soit généré ou modifié par une IA.

L'intégration de cet outil s'inscrit dans une démarche de transparence, alors que les contenus générés par IA se multiplient sur les réseaux sociaux. Chris Best, cofondateur et PDG de Substack, souligne que cette initiative vise à répondre à la prolifération de pratiques comme le Claudefishing — terme utilisé pour désigner la création de faux profils ou contenus à des fins trompeuses. Le déploiement est effectif sur le web et l'application iOS, avec une version Android annoncée pour une sortie prochaine.