Une plainte contre xAI accuse Grok d’avoir généré des images pédopornographiques

Une femme a déposé plainte contre xAI, filiale de SpaceX, en accusant son beau-père d’avoir utilisé l’outil Grok pour transformer une photo d’elle prise à 11 ans en plus de 7 000 images explicites. L’affaire s’inscrit dans un recours collectif intenté par trois adolescents du Tennessee, qui reprochent à xAI de ne pas avoir mis en place de mesures suffisantes pour empêcher la création de contenus illégaux via Grok.

Selon le Washington Post, la plaignante, identifiée sous le pseudonyme Jane Doe 4, affirme que les images générées ont été découvertes lors d’une perquisition policière. Son beau-père s’est suicidé deux jours après cette révélation. La plainte souligne que l’accès illimité à des outils comme Grok favorise la diffusion rapide de contenus pédopornographiques, transformant des souvenirs d’enfance en supports de violences sexuelles.

Les trois adolescents à l’origine du recours collectif accusent xAI de négligence, estimant que l’entreprise n’a pas pris les précautions élémentaires pour bloquer l’utilisation de Grok à des fins illégales. Ils demandent une certification en tant que recours collectif, tout en pointant la saturation de la plateforme X par des millions d’images sexualisées générées par Grok plus tôt dans l’année.

xAI n’a pas encore réagi aux accusations portées contre elle. La plainte intervient dans un contexte où les outils d’IA générative, comme Grok, sont de plus en plus pointés du doigt pour leur rôle dans la création et la diffusion de contenus illégaux, notamment à caractère sexuel.