Apple retire en urgence huit applications de deepfake nudité de l'App Store

Les autorités de San Francisco demandent à Apple de retirer huit applications de « nudification » par IA de l'App Store. Elles estiment que ces outils facilitent la création de deepfakes sexuels sans le consentement des personnes visées.

San Francisco somme Apple de purger l'App Store de ses applications de nudification

La justice locale californienne vient rappeler à Apple que la modération de l'App Store ne se limite pas aux jeux clonés ou aux fausses applications bancaires. Le procureur de San Francisco, David Chiu, a adressé une mise en demeure à la marque, l'accusant d'avoir laissé prospérer huit applications capables de générer de fausses images dénudées à partir de photos de personnes réelles, sans leur consentement.

Le principe de ces outils n'est pas nouveau : à partir d'un cliché ordinaire, une intelligence artificielle recompose un corps dénudé et peut même replacer la victime dans des mises en scène choisies par l'utilisateur. Ce qui alarme les autorités, c'est que des mineurs figurent parmi les cibles recensées. Chiu qualifie la pratique de purement illégale au regard du droit californien, qui interdit explicitement les services facilitant la création de deepfakes à caractère sexuel.

Apple n'est pas la seule visée. Google a reçu un courrier similaire pour le Play Store et affirme mener des enquêtes régulières sur les applications signalées, en retirant celles jugées fautives. Du côté de Cupertino, l'entreprise n'a pour l'instant pas réagi publiquement, alors qu'elle avait pourtant déjà supprimé plusieurs applications du même type par le passé et martelé que la nudification n'a aucune place sur sa plateforme, sans exception.

Le problème tient surtout au mode opératoire du contrôle a posteriori : un développeur signalé reçoit d'abord un avertissement avant tout retrait effectif, ce qui laisse une fenêtre d'exploitation aux applications litigieuses. On ignore à ce stade si les huit applications visées par la lettre ont déjà été notifiées ou sanctionnées.

Apple indique par ailleurs bloquer certains termes de recherche associés à ces usages détournés. Mais pour le procureur, cela ne suffit plus : il exige désormais un retrait pur et simple des applications concernées, ainsi qu'un renforcement des filtres appliqués en amont, avant même la mise en ligne des applications sur l'App Store.

Via