OpenAI a développé un outil pour détecter le texte généré par ChatGPT

Aujourd’hui, énormément d’étudiants utilisent l’intelligence artificielle pour leurs études, ce qui pose un problème dans énormément de collèges, lycées et universités. Les professeurs se demandent « comment savoir si un travail est authentique ou à été généré par une IA ? ». OpenAI pourrait bientôt aider à répondre à cette problématique, l’entreprise réfléchit à publier un outil permettant de détecter le texte généré par ChatGPT.

Un outil qui pourrait être très utilisé par les professeurs

OpenAI a récemment développé un outil capable de détecter en quelques secondes si un texte a été généré par ChatGPT. Toutefois, cette innovation est encore en phase de réflexion quant à sa mise à disposition du public. L’entreprise hésite à rendre cet outil accessible, craignant qu’il ne dissuade les étudiants et professionnels d’utiliser ChatGPT. Une diminution du nombre d’utilisateurs pourrait ralentir l’évolution de l’IA et impacter les revenus de l’entreprise. En effet, une IA nécessite une utilisation fréquente pour affiner ses algorithmes et s’améliorer continuellement.

Historiquement, les tentatives de détection de texte généré par l’IA ont été largement inefficaces. OpenAI a même abandonné son précédent détecteur de texte anti-triche l’année dernière en raison de son faible taux de précision. Cependant, cette fois-ci, OpenAI aurait potentiellement réussi à proposer quelque chose de fiable. Un porte-parole d’OpenAI a confirmé que l’entreprise explore activement une méthode de filigrane du texte.

Le filigrane de texte d’OpenAI vise exclusivement la détection des écrits provenant de ChatGPT. La méthode consiste à apporter de légers ajustements à la sélection des mots par ChatGPT, créant ainsi un filigrane invisible. Selon une mise à jour d’un article de blog de mai d’OpenAI, cette technique est “très précise” et “efficace contre la falsification locale”.

Cependant, ce filigrane présente des limites. Il est jugé comme “moins robuste contre la falsification à grande échelle” quand un utilisateur utilise des systèmes de traduction, la reformulation avec un autre modèle (comme Gemini par exemple) ou l’insertion et suppression de caractères spéciaux. En conséquence, OpenAI reconnaît que cette méthode peut être “facilement contournée par des individus habitués à utiliser l’IA”.

Source

Télécharger l'app gratuite ChatGPT