Meta a diffusé des publicités pour une IA de l'App Store qui promet de dénuder des femmes politiques

Le Tech Transparency Project a publié ce printemps un rapport sur 38 applications de manipulation d’images sexuelles réparties entre l’App Store et Google Play. Ces applications cumulaient 483 millions de téléchargements et environ 106 millions d’euros de revenus. Sur ce total, 31 applications étaient accessibles à des mineurs. Par leurs propres algorithmes de recherche et leurs espaces publicitaires, l'App Store et Google Play mettaient en avant ces outils, selon le rapport. « Ce n'est pas seulement que les entreprises échouent à examiner correctement ces applications, elles dirigent activement les utilisateurs vers les applications elles-mêmes », a déclaré Katie Paul dès avril.

Au début de l’été, le procureur de la ville de San Francisco a exigé le retrait de treize applications similaires et la fin de toute complicité dans la vente d'images sexuelles truquées. Jusqu’à la mi-août, Apple a néanmoins hébergé Kromix, avant de la retirer de son App Store après avoir été contactée par WIRED, selon 9to5mac. Après avoir franchi l’examen initial de l’App Store, Kromix a ajouté ce contenu, selon Apple. L’entreprise affirme par ailleurs interdire les applications conçues pour produire de la pornographie.

En février 2025, le sénateur démocrate Dick Durbin a interpellé Mark Zuckerberg après avoir appris qu’environ 90 % du trafic vers une autre application de ce type, Crush, provenait des plateformes de Meta. Celles-ci avaient diffusé au moins 8 010 publicités pour cet outil durant les deux premières semaines de l'’année.

Les personnalités politiques, majoritairement des femmes, sont une cible récurrente de ce type de contenus truqués depuis plusieurs années. Selon Benjamin Shultz, chercheur principal à l’American Sunlight Project, « avec la démocratisation de la production et de la distribution de contenu généré par l'IA, des médias autrefois inoffensifs, portraits officiels, vidéos de conférences de presse, sont devenus la matière première d'outils à faible ou sans code que toute personne disposant d'une connexion Internet peut utiliser ».