ChatGPT va bientôt marquer les textes générés par l’IA en Europe

ChatGPT va bientôt intégrer un filigrane invisible à ses réponses en Europe. OpenAI vient de dévoiler son système de marquage des textes générés par l’IA, baptisé textGrain, afin de répondre aux exigences de l’AI Act européen. Le déploiement doit commencer dans les prochaines semaines sur ChatGPT et Codex.

textGrain : un filigrane invisible dans les mots

Contrairement à un logo ou à une mention « généré par l’IA », le système d’OpenAI ne sera pas visible à l’œil nu. textGrain modifie légèrement la manière dont le modèle choisit ses mots, en ajoutant un signal statistique invisible dans le texte.

Un outil de détection peut ensuite rechercher cette signature et déterminer si un passage contient probablement un filigrane OpenAI.

L’objectif est de permettre une meilleure traçabilité des contenus générés par l’IA, alors que l’AI Act impose aux fournisseurs de systèmes d’IA générative de rendre les contenus générés par leurs modèles identifiables de manière lisible par machine.

ChatGPT et Codex concernés dans l’UE

OpenAI va déployer ce système sur les sorties de ChatGPT et Codex éligibles dans l’Union européenne, avec une mise en place progressive dans les prochaines semaines.

Pour l’API, le fonctionnement sera différent : les clients du monde entier pourront activer volontairement le watermarking sur certains modèles, mais il restera désactivé par défaut pour le moment.

OpenAI prévoit également de donner accès à son détecteur de filigrane, mais pas au grand public dans un premier temps. L’accès sera réservé à des chercheurs et organisations spécialisées approuvés, afin d’évaluer la fiabilité de la technologie.

Un détecteur loin d’être infaillible

C’est probablement le point le plus important. Un texte sans filigrane détecté ne signifie pas forcément qu’il a été écrit par un humain.

OpenAI reconnaît plusieurs limites. Les textes courts sont plus difficiles à identifier et les résultats sont également moins fiables dans certains domaines, notamment les mathématiques, où les possibilités de modifier les choix de mots sont limitées.

Surtout, une simple réécriture peut fortement affaiblir le signal. Dans les tests d’OpenAI sur des textes de 400 tokens, remplacer 10 % des mots par des synonymes faisait passer la détection d'environ 92 % à 66 %. Avec 25 % de mots remplacés, elle tombait à seulement 17 %. En clair, seuls les copier-coller seront détectés avec précision.

Impossible de savoir qui a utilisé ChatGPT

Le watermark ne permet pas non plus d'identifier l'utilisateur, son compte ou sa conversation. Il ne permet pas de déterminer la part de travail humain dans un texte, sa propriété ou même sa véracité.

OpenAI insiste donc sur le fait que textGrain est un signal de provenance, pas une preuve absolue d'auteur. L'entreprise prévoit d'ailleurs de continuer à améliorer la technologie et annonce son intention de la rendre open source à terme.

Pour les utilisateurs européens de ChatGPT, le changement sera donc surtout invisible au quotidien : les textes resteront quasiment identiques, mais ils pourront embarquer une signature statistique permettant à certains outils de repérer leur origine.

Télécharger l'app gratuite ChatGPT