Une plainte accuse xAI d’avoir utilisé des contenus pédopornographiques pour entraîner Grok

Une plainte déposée aux États-Unis accuse xAI d’avoir intégré des contenus pédopornographiques dans les jeux de données utilisés pour entraîner les modèles Grok, notamment des images et vidéos générées par IA. La victime, identifiée sous le pseudonyme Jane Doe, affirme que des matériaux la représentant ont été retrouvés dans les données d’entraînement de Grok, réactivant son traumatisme.

Selon la plainte, Jane Doe a été victime d’abus dans les années 2000, et ses images ont été intégrées à des listes de hachage (hash lists) par des organisations comme le National Center for Missing and Exploited Children (NCMEC) et le Canadian Centre for Child Protection (CCCP). Ces listes permettent d’identifier des contenus pédopornographiques connus. La victime a reçu des alertes du Department of Justice Victim Notification System lors de la découverte de versions générées par IA de ses images sur des plateformes liées à xAI. Les échanges entre utilisateurs sur des forums spécialisés évoqueraient la création et la diffusion d’images générées par IA représentant des victimes comme elle.

L’accusation porte également sur l’utilisation potentielle de ces contenus pour améliorer les capacités de génération d’images et de vidéos de Grok. La plainte suggère que xAI aurait non seulement utilisé des contenus existants, mais aussi stocké et réutilisé les sorties générées par Grok pour affiner ses modèles. Aucune preuve technique détaillée n’est fournie dans le document, mais les avocats de Jane Doe affirment que ses images, identifiables par leurs hachages, étaient présentes dans le jeu de données utilisé par xAI. Cette affaire marque la première plainte publique accusant xAI d’avoir entraîné Grok sur des contenus pédopornographiques.