TikTok expérimente un outil de détection de deepfakes IA pour les créateurs

TikTok teste un outil expérimental permettant aux créateurs de détecter des contenus générés par IA reproduisant leur apparence ou leur voix, et de les signaler à la plateforme.

L’outil, actuellement en phase de test auprès d’un nombre limité de créateurs américains, scanne les publications pour repérer des deepfakes ou des imitations non autorisées de l’identité visuelle ou vocale des créateurs. Les utilisateurs doivent d’abord s’identifier via un partenaire tiers, Jumio, en réalisant un scan biométrique en temps réel (selfie) et une vérification d’identité. TikTok précise que les documents d’identité ne sont pas conservés, et que les données biométriques sont uniquement utilisées pour la détection des usages non autorisés de l’apparence ou de la voix des créateurs.

Une fois la vérification effectuée, les créateurs peuvent activer le scan sur leurs contenus ou ceux d’autres utilisateurs. En cas de détection d’un contenu suspect, ils ont la possibilité de le signaler directement à TikTok. La plateforme n’a pas précisé si cette fonctionnalité sera étendue à l’ensemble de sa communauté ou si elle restera réservée à un groupe restreint de testeurs.

Cette initiative s’inscrit dans un contexte où les plateformes sociales renforcent leurs outils de modération face à la prolifération des contenus générés par IA, souvent difficiles à distinguer des productions humaines. TikTok n’a pas indiqué si l’outil sera capable de détecter des deepfakes générés par des modèles tiers ou uniquement ceux produits via ses propres outils.