Apple durcit les règles de l’App Store face aux deepfakes et aux applications camouflées

Entre les générateurs d'images dénudées par IA et les applications qui cachent leur véritable nature lors de leur validation, le filtre de l'App Store a montré de sérieuses fissures ces derniers mois. Pour reprendre la main, Apple vient de mettre à jour ses App Review Guidelines avec un objectif clair : couper l'herbe sous le pied des développeurs qui exploitent les angles morts de la modération.

Le premier volet de ce tour de vis concerne la section 1.2 du règlement, dédiée aux contenus générés par les utilisateurs. Si la pornographie a toujours été bannie de la boutique, Apple mentionne désormais noir sur blanc les images intimes non consenties créées à l'aide d'outils d'intelligence artificielle. Les éditeurs d'applications permettant de générer ou de retoucher des visuels ont l'obligation de mettre en place des garde-fous proactifs pour empêcher la création de ces deepfakes, sous peine de voir leur application retirée et leur compte développeur clôturé.

App Store, vitrine de la sécurité… fissurée par des failles géantes

Cette précision textuelle n'arrive pas par hasard et répond directement aux polémiques qui ont émaillé l'année. Dès janvier, puis à nouveau en avril, le Tech Transparency Project avait démontré non seulement la présence de dizaines d'applications de « nudification » sur l'App Store, mais aussi le fait que les suggestions de recherche et les publicités d'Apple dirigeaient parfois les utilisateurs vers ces mêmes outils. Cet été, la municipalité de San Francisco a contraint la pomme à supprimer huit applications de ce type, tandis que les dérapages de Grok — utilisé sur X pour générer des montages sexualisés non consentis — avaient forcé Cupertino à menacer xAI d'exclusion en coulisses avant qu'un correctif ne soit déployé.

Deepfakes : la pudeur à géométrie variable d'Apple et Google

L'autre ajout majeur prend la forme d'une nouvelle règle 2.5.19, pensée pour éradiquer la pratique du bait-and-switch (l'appât suivit d'une substitution). Le procédé est devenu un classique chez les fraudeurs : soumettre un petit jeu ou un utilitaire parfaitement inoffensif aux équipes de validation d'Apple, puis activer à distance de tout autres fonctions une fois l'application approuvée. En juillet dernier, une enquête de 9to5Mac avait ainsi mis au jour des dizaines de casinos illégaux déguisés en jeux anodins, qui ne révélaient leur interface de paris d'argent réel qu'aux utilisateurs connectés depuis une adresse IP brésilienne.

App Store : des dizaines d'applications paravents cachent des casinos clandestins au Brésil

Pour contrer ces chevaux de Troie, Apple interdit désormais explicitement l'offuscation de code visant à masquer des fonctions dormantes ou non documentées dans le binaire de l'application, une infraction jusqu'ici englobée de manière plus floue dans la section 2.3.1. En parallèle, la section 5 du règlement précise que les applications facilitant la traite d'êtres humains ou l'exploitation des mineurs seront non seulement supprimées de l'App Store, mais également bloquées sur les canaux de distribution alternatifs — un rappel que la notarisation imposée en Europe garde un droit de vie ou de mort sur les apps distribuées hors de la boutique officielle.

Reste que ce durcissement réglementaire met en lumière les limites du contrôle à l'entrée tant vanté par Apple. À l'heure où les applications reposent massivement sur du vibe coding et des bascules logicielles côté serveur (les feature flags), l'examen d'App Review ne donne qu'un aperçu du comportement d'une application à un instant T, sans garantir que ses fonctionnalités resteront identiques après sa validation. En précisant ses interdictions, Apple renforce ses moyens d'action contre les développeurs qui contournent ses règles. Reste à savoir si ces nouvelles dispositions permettront aussi de mieux détecter les abus en amont, avant qu'ils ne se retrouvent sur l'iPhone des utilisateurs.