Meta diffuse des publicités pour une appli de deepfake à caractère sexuel ciblant des politiciennes

Meta a diffusé des publicités sur ses plateformes pour promouvoir Kromix, une application présentée comme un générateur d’images par IA, mais qui permet en réalité de créer des deepfakes à caractère sexuel. Les annonces mettaient en scène des politiciennes américaines, en violation des règles de Meta contre les contenus sexuels explicites.

Les publicités, repérées par le Tech Transparency Project, montraient des vidéos où une femme ressemblant à une politicienne américaine était associée à des scènes pornographiques. L’une des annonces affichait une image de la politicienne devant un drapeau américain, avec la mention « What if she moved ? », avant de basculer vers une vidéo explicite. Les annonces étaient ciblées exclusivement vers des utilisateurs masculins, avec le slogan « Unleash Next-gen AI Magic ».

Kromix, disponible sur l’App Store d’Apple avant une demande de commentaire de WIRED, proposait aux utilisateurs payants de générer des deepfakes dans des scénarios incluant « bedroom rape » et « Disney love ». L’application affichait également des vidéos pornographiques générées par IA mettant en scène des femmes en costume de Spider-Man. Apple avait déjà été alertée par le procureur de la ville de San Francisco, qui lui avait demandé de retirer 13 applications similaires pour violation de ses politiques contre les contenus intimes non consentis.

Meta a indiqué que les 32 publicités liées à Kromix avaient été supprimées après avoir été signalées par WIRED. La plupart de ces annonces avaient reçu moins de 10 impressions et avaient été diffusées entre 5 et 46 heures.