X fait croire qu'il restreint Grok contre les deepfakes sexuels

La plateforme X d'Elon Musk traverse une zone de turbulences après que son IA Grok est devenue l'outil de prédilection pour créer des deepfakes sexualisés sans consentement. Face à la pression internationale, X prétend avoir restreint l'accès à ces fonctionnalités aux seuls abonnés payants. Sauf que la réalité est bien différente.

Une mesure cosmétique qui trompe son monde

Depuis le 9 janvier, Grok répond aux utilisateurs gratuits qui le mentionnent via @grok qu'ils doivent souscrire un abonnement pour générer des images. Un message qui donne l'illusion d'un vrai changement, relayé en masse dans les médias. Pourtant, cette restriction ne concerne qu'une seule des multiples façons d'utiliser l'IA de Musk.

N'importe quel utilisateur peut toujours créer ou modifier des images via le bouton "Edit image" présent sur chaque photo du site X, en maintenant une image sur l'application mobile, ou directement via le site web et l'app dédiés de Grok. Aucun abonnement requis. Les "nudifications" et autres manipulations controversées restent donc possibles en quelques clics, exactement comme avant.

Cette approche minimaliste contraste fortement avec celle d'entreprises comme Apple, qui impose des règles strictes sur son App Store concernant les contenus générés par IA. D'ailleurs, la situation embarrasse directement Cupertino : un groupe de sénateurs américains a officiellement demandé à Apple et Google de retirer X et Grok de leurs boutiques d'applications pour violation des conditions de distribution.

Des conséquences internationales

Le Premier ministre britannique Keir Starmer n'a pas mâché ses mots, qualifiant cette pseudo-restriction d'"insultante pour les victimes de misogynie". Son porte-parole a dénoncé une manœuvre qui transforme simplement "une fonctionnalité permettant de créer des images illégales en service premium". L'autorité de régulation britannique Ofcom pourrait bloquer l'accès à X sur le territoire, avec des amendes pouvant atteindre 10% du chiffre d'affaires mondial de l'entreprise. En France, le gouvernement a lancé une enquête sur Grok pour les mêmes raisons.

Plusieurs membres clés de l'équipe sécurité de xAI auraient démissionné juste avant l'explosion de la polémique, tandis que Musk aurait personnellement refusé de renforcer les garde-fous de son IA. Un choix qui risque de coûter cher, tant financièrement que juridiquement.

Télécharger l'app gratuite X