xAI poursuit un utilisateur de Grok pour génération de CSAM

xAI engage une action en justice contre un utilisateur de Grok accusé d’avoir généré des contenus à caractère sexuel impliquant des mineurs (CSAM) via le chatbot, marquant la première plainte de ce type depuis le lancement de l’outil.

L’entreprise californienne a déposé une plainte mardi contre Terry Wayne Harwood, arrêté en début d’année pour possession et diffusion de CSAM. Selon les allégations de xAI, Harwood aurait utilisé deux comptes Grok pendant deux mois pour générer des images non consenties de plusieurs victimes, dont une fillette estimée âgée de 10 ans. Ces images, obtenues en demandant à Grok de "déshabiller" des photos initialement neutres, auraient ensuite été partagées illégalement. Les documents judiciaires précisent que les identifiants des comptes incriminés étaient des chaînes alphanumériques complexes, suggérant une tentative de contournement des mesures de modération.

Cette affaire survient dans un contexte de pression accrue sur xAI pour reconnaître les risques liés à l’utilisation de Grok. Une plainte collective récente, déposée par une mineure, accuse xAI de refuser de transmettre aux autorités les informations permettant d’identifier un utilisateur ayant généré et diffusé environ 7 000 images sexualisées d’elle via Grok et d’autres outils d’IA. Les avocats de la victime s’appuient sur un rapport 2026 du National Center for Missing & Exploited Children (NCMEC) indiquant que 90 % des signalements transmis par xAI via la CyberTipline n’ont pas pu être exploités par les forces de l’ordre en raison de l’absence d’informations utilisateur.

Elon Musk, PDG de xAI, avait jusqu’alors minimisé les risques en affirmant ne pas avoir été confronté à des preuves concrètes de génération de CSAM par Grok. En janvier 2026, il avait publiquement mis en garde les utilisateurs : « Quiconque utilise Grok pour créer du contenu illégal subira les mêmes conséquences que s’il téléchargeait lui-même ce contenu illégal. » Pourtant, les allégations contre Harwood suggèrent que les garde-fous techniques et les avertissements de xAI n’ont pas suffi à empêcher l’exploitation malveillante de l’outil.