Apple renforce les règles de l’App Store contre les deepfakes dénudés

Apple durcit le ton face aux applications capables de déshabiller virtuellement des personnes ou de générer des images intimes sans leur consentement. La firme vient de modifier les règles de l’App Store pour obliger les développeurs à prévenir et supprimer les deepfakes sexuels générés par IA. Les applications qui ne respecteraient pas ces exigences risquent tout simplement d’être supprimées.

Les applications nudify dans le viseur

Les contenus sexuellement explicites étaient déjà interdits sur l’App Store. La nouvelle règle 1.2 précise désormais les obligations des développeurs face aux images intimes non consenties produites par intelligence artificielle.

Cette évolution pourrait notamment concerner des applications comme Grok, le chatbot développé par xAI. Celui-ci a fait l’objet de critiques après la génération d’images dénudées ou sexualisées de personnes réelles. Apple avait même averti xAI qu’une absence de mesures correctives pourrait entraîner le retrait de l’application. Des protections ont finalement été mises en place, permettant à Apple d’approuver une nouvelle version.

Apple s’attaque aussi aux fonctions cachées

La firme ajoute également la règle 2.5.19, qui interdit plus explicitement aux développeurs d’introduire des fonctionnalités absentes de la version soumise à validation.

Cette mesure vise notamment les applications qui dissimulent leur véritable objectif pendant l’examen de l’App Store, puis activent après approbation des fonctions de « nudification ». Cette technique de contournement, parfois appelée bait-and-switch, pourrait désormais entraîner l’exclusion de l’application, voire du développeur du programme Apple Developer.

Apple étend par ailleurs aux autres modes de distribution ses interdictions concernant les applications facilitant la traite des êtres humains ou l’exploitation des enfants.

Un contrôle renforcé, mais jusqu’où ?

Apple affirme ne pas hésiter à supprimer les applications qui enfreignent ses règles et à exclure leurs développeurs. Ces nouvelles dispositions renforcent sa capacité à agir contre les usages abusifs de l’IA.

Reste à voir comment elles seront appliquées en pratique, notamment lorsque les contenus sont générés par les utilisateurs eux-mêmes. Dans un contexte où les outils de génération d’images deviennent toujours plus accessibles, la modération ne peut plus se limiter à examiner une application avant sa publication : elle doit aussi suivre ce qui s’y passe après son approbation. Et là, se pose la question de la liberté d’utilisation et de la vie privée.