Les limites de l'IA seule pour modérer les communautés en ligne

Les plateformes sociales comme Reddit continuent de dépendre des modérateurs humains pour corriger les erreurs de modération automatisée, malgré l’essor des outils d’IA.

En avril 2026, des modérateurs de la communauté r/AskHistorians sur Reddit ont constaté la suppression automatique de dizaines de publications et commentaires datant de dix ans. Ces contenus, jugés comme du spam par les outils d’IA de Reddit, provenaient principalement de liens vers le site Rare Historical Photos. Les modérateurs, dont la Dr Sarah Gilbert, ont souligné l’absence de recours possible pour contester ces suppressions, malgré l’expertise des contributeurs. Cette situation a privé la communauté d’un archive éducative précieuse, certains messages ayant nécessité des heures, voire des jours, de recherche et de rédaction.

Les modérateurs estiment que ces erreurs de modération automatisée pourraient fausser les indicateurs de performance affichés par Reddit. La plateforme affirme que l’IA a permis d’augmenter les actions contre les contenus haineux et violents, mais ces métriques ne reflètent pas nécessairement la qualité ou la pertinence des suppressions. Les outils d’IA, bien que capables de détecter des motifs récurrents, peinent à distinguer le contexte nuancé ou l’utilité pédagogique des contenus, comme dans le cas des réponses historiques détaillées.

Les plateformes sociales restent donc confrontées à un paradoxe : l’IA peut traiter des volumes importants de données, mais elle échoue à préserver la valeur des interactions humaines. Les modérateurs humains restent indispensables pour arbitrer les cas complexes, corriger les biais algorithmiques et garantir la cohérence des règles communautaires. Sans cette complémentarité, les outils automatisés risquent de dégrader l’expérience utilisateur plutôt que de l’améliorer.