Apple retire Kromix, une app IA qui « nudify » et promue par Meta

Apple a retiré de l’App Store Kromix, une application présentée comme un « styliseur d’images IA » et capable de produire des deepfakes pornographiques à partir de photos de vraies personnes. L’app avait été poussée par une campagne publicitaire sur les plateformes Meta, selon une enquête de WIRED.

Une pub choquante, ciblée uniquement sur les hommes

Dans une publicité vidéo vue par WIRED, Kromix se présentait comme « l’IA que les hommes utilisent vraiment », « sans restrictions », et affirmait que « tous les personnages sont de vraies personnes ». L’une des pubs montrait une femme ressemblant fortement à une élue américaine, devant le drapeau des États-Unis, avec le slogan « What if she moved ? », avant de basculer vers une scène à caractère sexuel générée par IA.

Selon la bibliothèque publicitaire de Meta, les 32 pubs de cette campagne étaient exclusivement ciblées sur des utilisateurs masculins, sous le slogan « Unleash Next-gen AI Magic ». Elles ont tourné entre 5 et 46 heures. La plupart n’ont généré que très peu d’impressions. La page associée avait été créée le 3 août et n’avait aucun abonné — deux signaux qui auraient pu alerter.

Après les questions de WIRED, Meta a retiré la campagne et Apple a retiré Kromix.

Des fonctions interdites, ajoutées après validation

Kromix invitait les utilisateurs payants à envoyer des photos pour les placer dans des scénarios sexuels non consentis, y compris des contenus clairement interdits par les règles d’Apple. Un contact listé dans l’app n’a pas répondu aux demandes de commentaires.

Apple indique que l’app semblait avoir ajouté ces fonctions après être passée par la revue initiale de l’App Store. La marque rappelle qu’elle interdit les apps conçues pour générer, diffuser ou consommer de la pornographie, et que les apps de « nudification » violent ses guidelines. Elle dit travailler à identifier et supprimer ces apps, ainsi que les comptes développeurs qui tentent de contourner le processus.

Un problème déjà connu

Apple a du mal à tenir ce type d’outils hors de l’App Store. Cet été, le procureur de San Francisco, David Chiu, lui a envoyé une mise en demeure lui demandant de retirer plusieurs apps similaires et de cesser de « faciliter » la vente d’images intimes non consenties générées par IA.

Les élus, très majoritairement des femmes, sont depuis des années des cibles de deepfakes non consentis. Katie Paul, du Tech Transparency Project, qui a découvert ces pubs, souligne que les publicités repérées sexualisent et « dénudent » des femmes, y compris des personnalités politiques. Cela pose selon elle la question de la réaction de Meta, alors que de telles pubs ont pu tourner sur sa plateforme.

Meta dit lutter, mais les pubs passent encore

Meta interdit officiellement les images sexuelles dans les publicités, ainsi que la promotion d’apps de « nudify ». L’entreprise affirme que chaque pub est revue, surtout via des outils automatisés, avant publication.

Cindy Southworth, responsable de la sécurité des femmes chez Meta, parle d’un espace « très adversarial », où les acteurs changent sans cesse de tactiques. Elle cite le retrait de plus de 340 000 pubs pour des apps de nudification fin 2025, le lancement de nouvelles détections IA et des actions en justice. Beaucoup de ces vidéos utilisaient une image de couverture anodine (plage, montagne, cascade) pour masquer le contenu réel.

« Aucun système n’est parfait », reconnaît-elle. Meta dit enquêter sur la façon dont ces pubs ont contourné ses filtres.

D'aulleurs, en faisait quelques recherches, nous sommes tombés sur une publicité similaire qui "dérape" très vite sur Facebook... Voici une capture :

Un second cas : MaskAI

Dans une autre enquête, WIRED a recensé plus de 50 pubs Meta contenant des contenus sexuels impliquant des mineurs. Après contact, Meta les a retirées pour violation de ses règles. Certaines renvoyaient vers MaskAI, une autre app de l’App Store permettant de superposer des visages dans des scènes sexuelles. Apple l’a également retirée après les questions de WIRED.

Katie Paul estime que Meta s’appuie trop sur l’IA pour filtrer les pubs, tout en réduisant la modération humaine :

Les pubs sont le produit principal de Meta, et il semble n’y avoir aucun contrôle qualité.

Apple et Meta n’agissent qu’une fois l’affaire rendue publique : ça vous paraît suffisant ?