xAI poursuit un utilisateur de Grok pour génération de CSAM

xAI a engagé des poursuites judiciaires contre un utilisateur de Grok pour avoir généré des contenus à caractère pédopornographique (CSAM) via le chatbot. L’entreprise accuse Terry Wayne Harwood d’avoir contourné les protections intégrées à Grok afin de produire et diffuser ces contenus, en violation de ses conditions d’utilisation.

Dans sa plainte, xAI précise que Harwood a été arrêté en février 2026 pour possession et distribution de CSAM, faisant l’objet de huit chefs d’accusation pénaux. L’entreprise affirme que l’utilisateur a exploité Grok pour modifier des images non consenties et générer des contenus illicites, malgré les garde-fous techniques et politiques mis en place par xAI. La plainte demande réparation pour les dommages légaux et réputationnels subis par l’entreprise.

Les garde-fous de Grok, comme ceux d’autres modèles d’IA grand public, visent à bloquer la génération de contenus illégaux ou préjudiciables. Cette affaire illustre les limites des systèmes de filtrage automatisés face à des utilisateurs déterminés à contourner ces restrictions. Elle soulève également la question de la responsabilité des éditeurs de modèles d’IA dans la prévention de l’usage malveillant de leurs outils.