Le Royaume-Uni veut bannir les apps de deepfake créant des images d'enfants nus

La commissaire à l'enfance britannique, Dame Rachel de Souza, appelle à l'interdiction totale des applications utilisant l'intelligence artificielle pour générer des images sexuellement explicites d'enfants. Dans un rapport publié ce lundi 28 avril 2025, elle dénonce l'impact alarmant de ces outils de "nudification" sur la sécurité et le bien-être des jeunes.

Une technologie qui cible principalement les filles

Ces applications de deepfake, désormais facilement accessibles via les moteurs de recherche et les plateformes de réseaux sociaux, permettent de créer des images de nudité à partir de photos ordinaires. Selon le rapport, cette technologie cible de façon disproportionnée les filles et les jeunes femmes, beaucoup d'outils ne fonctionnant apparemment que sur des corps féminins.

La commissaire à l'enfance déclare :

Les enfants m'ont confié qu'ils sont effrayés par l'idée même que cette technologie soit disponible, sans parler de son utilisation. Ils craignent que n'importe qui — un inconnu, un camarade de classe ou même un ami — puisse utiliser un smartphone pour les manipuler en créant une image de nudité grâce à ces applications spécifiques.

Cette situation a déjà des conséquences concrètes : de nombreuses jeunes filles limitent désormais leur participation en ligne et évitent de partager des photos d'elles-mêmes sur les réseaux sociaux par crainte d'être victimes de ces outils.

Des mesures législatives urgentes réclamées

Bien qu'il soit déjà illégal de créer ou de partager des images sexuellement explicites d'enfants au Royaume-Uni, la technologie permettant de les générer reste légale. La commissaire demande donc au gouvernement britannique de :

• Interdire totalement les applications de "nudification" qui permettent de générer des images sexuellement explicites de personnes réelles
• Créer des responsabilités légales pour les développeurs d'outils d'IA générative afin qu'ils identifient et atténuent les risques que leurs produits font peser sur les enfants
• Établir des systèmes efficaces pour supprimer les deepfakes sexuellement explicites d'enfants d'internet
• Reconnaître les deepfakes sexuels comme une forme de violence contre les femmes et les filles

Le monde en ligne évolue rapidement, mais il n'y a aucune raison positive pour que ces applications particulières existent. Elles n'ont pas leur place dans notre société.

Des initiatives déjà en cours

En février dernier, le gouvernement britannique a annoncé de nouvelles lois visant à lutter contre les images d'abus sexuels d'enfants générées par l'IA, rendant illégale la possession, la création ou la distribution d'outils d'IA conçus pour produire ce type de contenu.

L'Internet Watch Foundation, une organisation caritative britannique, a enregistré 245 cas confirmés de contenus d'abus sexuels générés par l'IA en 2024, une augmentation alarmante de 380% par rapport aux 51 cas recensés en 2023.

Notez que ces injonctions concernent surtout Android et Windows où il est facile d'installer des apps en .apk et .exe qui échappent complètement aux vérifications de Google et Microsoft. La situation est beaucoup plus saine sur iOS où toutes les apps de l'App Store sont examinées par Apple avec des critères très stricts.

Source