Apple aurait menacé de retirer Grok de l’App Store

Apple serait intervenue fermement en coulisses face au scandale des deepfakes à caractère sexuel générés par Grok au début de l’année. Selon un rapport exclusif de NBC News, la firme a même menacé de supprimer l’application Grok de l’App Store.

Ce qui s’est passé en coulisses

Lors de la vague virale de deepfakes (notamment d’images de femmes et de mineures dénudées) générées par Grok, Apple a reçu de nombreuses plaintes et a observé une importante couverture médiatique. Selon la lettre envoyée par Apple à des sénateurs américains, l’entreprise a rapidement considéré que X et Grok violaient ses directives concernant les contenus inappropriés et la modération.

Apple a alors contacté les équipes de X et de xAI pour exiger un plan concret d’amélioration de la modération. La première mise à jour soumise par xAI a été refusée, car jugée insuffisante. Après plusieurs échanges et nouvelles versions, Apple a finalement validé une mise à jour de Grok, estimant que les améliorations étaient « substantielles ».

Des restrictions mises en place… mais pas totalement efficaces

Ces échanges expliquent les changements rapides de modération annoncés par xAI à l’époque : limitation de l’accès aux outils de génération d’images, restrictions sur la modification de photos de personnes réelles, etc.

Cependant, selon une seconde enquête de NBC News, Grok continue de générer des images sexualisées sans consentement. Bien que le volume ait fortement diminué depuis janvier, certains utilisateurs parviennent encore à contourner les protections pour créer des images de femmes en tenue légère ou suggestive (serviette, brassière de sport, costume de Spider-Woman, bunny girl, etc.), ou d'homme (pas de jaloux).

Un sujet sensible pour AppleCe dossier met en lumière la difficulté pour Apple de faire respecter ses règles sur l’App Store, particulièrement lorsqu’il s’agit d’une application liée à une personnalité aussi influente qu’Elon Musk. Apple doit équilibrer sa politique de modération stricte avec la volonté de ne pas censurer arbitrairement des applications très populaires.

L’affaire montre aussi que, malgré les améliorations annoncées, les outils d’IA générative comme Grok, ChatGPT, Gemini ou Claude restent encore vulnérables aux abus, même avec des garde-fous.

Télécharger l'app gratuite Grok - Assistant IA