Grok Imagine peut créer des deepfakes et ça fait polémique

xAI, la société d’Elon Musk, vient de lancer Grok Imagine, un nouvel outil d’intelligence artificielle capable de créer des vidéos à partir de texte ou d’images. Mais c’est surtout son mode NSFW baptisé « Spicy » qui attire l’attention, en raison de sa capacité à générer du contenu sexuellement explicite, parfois sans demande explicite de l’utilisateur.

Grok Imagine se fait sa pub

Développé par xAI, la société d’Elon Musk, Grok Imagine combine génération d’images et de vidéos courtes animées à partir d’images ou de texte. Accessible aux abonnés SuperGrok ou Premium+ X sur iOS, l’outil permet de créer des vidéos jusqu’à 15 secondes avec son natif dans plusieurs styles visuels (photoréaliste, illustration, animé) via quatre modes distincts : Custom, Normal, Fun, et le fameux mode Spicy.

Le mode « Spicy » fait déjà polémique

Le mode Spicy permet la génération de contenu à caractère sexuel, incluant nudité partielle, sans nécessiter un prompt explicite. Par exemple, une demande anodine sur Taylor Swift dans un festival, combinée à ce mode, a produit un deepfake animé montrant la chanteuse topless sans nudité demandée. Cette capacité a déclenché une controverse majeure dès son lancement. Il n'est d'ailleurs pas impossible que cela soit fait exprès.

Selon Elon Musk, depuis le lancement début août 2025, Grok Imagine a généré plus de 34 millions d’images via cette fonctionnalité. Malgré une politique d’utilisation interdisant les contenus pornographiques non consensuels, les garde-fous ont été jugés inefficaces, notamment pour les contenus impliquant des personnalités publiques.

Critiques éthiques et juridiques : deepfakes

Gros problèmes autour des deepfakes non consensuels, notamment impliquant Taylor Swift ou Melania Trump. Ces créations posent un risque sérieux de violation de la vie privée et pourraient enfreindre des lois comme le Take It Down Act en cours d’adoption aux États-Unis.

Les tests de médias comme The Verge ou Gizmodo ont montré que même sans prompt explicite, le mode « Spicy » produit du contenu semi-nu ou sexualisé, notamment du côté des femmes. Les restrictions sur célébrités sont facilement contournables et la vérification de l’âge s’avère visiblement très limitée (aucune preuve demandée).

Contrairement à OpenAI Sora ou Google Veo, qui implémentent des protections contre le contenu explicite et les deepfakes non-consensuels, Grok Imagine adopte une approche beaucoup plus permissive. Cela crée un fossé éthique entre les plateformes, malgré une promesse de “créativité sans limites” assumée par xAI.