San Francisco interdit les apps de 'nudification' IA sur les stores Apple et Google

Le procureur général de San Francisco, David Chiu, a ordonné à Apple et Google de retirer 13 applications de nudification par IA de leurs stores respectifs, accusant ces plateformes de violer les lois californiennes contre la pornographie deepfake.

Les applications ciblées permettent de générer des images intimes non consenties à partir de photos de personnes réelles, en modifiant leurs traits, en les plaçant dans des positions sexualisées ou en superposant leurs visages sur des corps nus. Selon Chiu, ces outils sont largement utilisés pour harceler, humilier ou menacer, principalement des femmes et des enfants, avec des conséquences graves sur leur santé mentale et leur réputation. Les lettres envoyées aux deux entreprises mentionnent explicitement que ces pratiques constituent une violation des lois californiennes interdisant la création et la diffusion de contenus pornographiques deepfake.

Dans sa demande, le procureur général souligne que les stores Apple et Google ont probablement généré des millions de dollars de revenus grâce à ces applications, en ne prenant pas de mesures suffisantes pour les retirer ou en ne développant pas de systèmes de détection adaptés. Les lettres ne citent pas les noms des applications concernées, afin d’éviter de les promouvoir indirectement. Cependant, l’une d’elles, affichant plus d’un million de téléchargements, proposait des fonctionnalités pour sexualiser des images de femmes ou créer des vidéos « gratuites et sans censure ».

Google a confirmé avoir suspendu les cinq applications signalées par San Francisco, invoquant des violations de ses politiques contre les contenus nuisibles. L’entreprise précise avoir déjà retiré des centaines d’applications similaires et restreint l’accès à des termes de recherche comme « nudify » sur son store. Apple n’a pas répondu à la demande de commentaire d’Ars Technica.