Grok accusé de générer des deepfakes sexuels : enquête ouverte en France

Grok, l'intelligence artificielle développée par xAI, la société d'Elon Musk, se retrouve au cœur d'une polémique majeure en France. Depuis quelques jours, l'outil intégré au réseau social X permet aux utilisateurs de générer des images dénudant des femmes et des mineurs sans leur consentement. Une dérive qui a rapidement alerté les autorités françaises et relance encore et toujours le débat sur l'encadrement des IA génératives.

Une faille massive dans les protections

La fonctionnalité de génération d'images de Grok, devenue gratuite en décembre 2024, a été massivement détournée. Des utilisateurs ont soumis des photos de femmes et d'enfants avec des requêtes explicites demandant à l'IA de les représenter en maillot de bain ou en lingerie. Contrairement aux outils classiques de Google, OpenAI ou Apple qui refusent catégoriquement ce type de demandes, Grok a répondu favorablement à ces sollicitations, produisant des milliers de deepfakes à caractère sexuel.

Le compte officiel de l'IA a reconnu l'existence de "failles dans les garde-fous" et promet des corrections urgentes. Pourtant, xAI n'a publié qu'une réponse automatique affirmant que "les médias traditionnels mentent", sans communication publique d'Elon Musk sur le sujet. Cette position tranche avec la prudence d'autres acteurs technologiques, notamment Apple qui a choisi de limiter (trop ?) drastiquement les capacités de génération d'images de son IA pour éviter précisément ce genre de dérives.

Réactions politiques et juridiques

L'affaire a provoqué une levée de boucliers en France. Trois ministres (Roland Lescure, Anne Le Hénanff et Aurore Bergé) ont signalé les contenus au procureur de la République. L'Arcom, le régulateur du numérique, a été saisi pour d'éventuels manquements au Digital Services Act européen. Deux députés, Éric Bothorel et Arthur Delaporte, ont également saisi la justice, aboutissant à l'extension d'une enquête déjà ouverte contre X depuis juillet 2025.

La législation française est claire : créer un montage à caractère sexuel sans consentement via un traitement algorithmique est passible de deux ans de prison et 60 000 euros d'amende. Sarah El Haïry, haute-commissaire à l'enfance, a souligné que "si l'image est artificielle, le préjudice est bien réel". Cette crise illustre les dangers d'une IA sans garde-fous suffisants, un écueil qu'Apple semble avoir anticipé en limitant volontairement les fonctionnalités de son système d'intelligence artificielle.

Source