Discord corrige un dysfonctionnement d'IA qui a banni 8 000 utilisateurs

Discord a identifié et corrigé un bug affectant son système de modération automatisée qui a entraîné le bannissement de 8 000 utilisateurs. L'erreur a été détectée et résolue, les comptes concernés ayant été rétablis.

Le dysfonctionnement illustre les risques liés à l'automatisation de la modération sur les grandes plateformes. Lorsqu'un système d'IA chargé de détecter les violations de règles fonctionne mal, les conséquences s'amplifient rapidement à l'échelle de millions d'utilisateurs. Dans ce cas, des comptes légitimes ont été supprimés sans raison valide, privant les utilisateurs d'accès à leurs serveurs et conversations.

Discord n'a pas fourni de détails publics sur la cause racine du bug ou les circonstances exactes de sa découverte. La plateforme a cependant confirmé que les utilisateurs affectés ont retrouvé l'accès à leurs comptes. Cet incident soulève des questions sur la fiabilité des systèmes de modération automatisés et la nécessité de mécanismes de vérification pour éviter les faux positifs massifs.