OpenAI a développé un outil qui pourrait identifier les étudiants utilisant ChatGPT pour terminer leurs devoirs, mais ils ne savent pas s’il faut le publier. Le journal de Wall Street Selon les informations de l’entreprise, une méthode appelée filigranage de texte est en cours d’expérimentation. Cette technique consiste à apporter de minuscules modifications à la manière dont ChatGPT sélectionne les mots, créant ainsi un « filigrane » caché dans le texte qui peut être détecté ultérieurement.
Un porte-parole d’OpenAI a déclaré TechCrunch L’entreprise fait preuve de prudence quant à la publication de cet outil en raison de sa complexité et de son impact potentiel. Elle s’inquiète notamment des problèmes que pourraient rencontrer les utilisateurs pour contourner le filigrane et de la possibilité que cela affecte injustement les non-anglophones.
C’est « très précis »
Cette approche diffère des tentatives précédentes visant à détecter le texte généré par l’IA, qui ont pour la plupart échoué. Par exemple, GPTZero, un autre outil conçu pour détecter le texte écrit par l’IA, a rencontré des problèmes de précision et d’efficacité. Même OpenAI a cessé d’utiliser son propre détecteur de texte IA l’année dernière parce qu’il n’était pas assez précis. Le nouvel outil de tatouage se concentrerait uniquement sur la détection du texte écrit par ChatGPT, et non sur d’autres modèles d’IA.
Dans une version mise à jour article de blogOpenAI a noté que le tatouage numérique s’est révélé « très précis » contre les manipulations simples, comme la modification de quelques mots. Cependant, il est moins efficace contre des méthodes plus complexes, comme la traduction du texte dans une autre langue ou l’utilisation d’un autre modèle d’IA pour le reformuler. L’entreprise a également fait part de ses inquiétudes quant au fait que cet outil pourrait stigmatiser injustement l’utilisation de l’IA, en particulier pour les locuteurs non natifs de l’anglais qui pourraient utiliser l’IA pour les aider à écrire.
Alors qu’OpenAI prend en compte ces facteurs, ils prennent le temps de décider s’il faut ou non publier cet outil, en pesant soigneusement le pour et le contre.
Toutes les images sont générées par Eray Eliaçık/Bing
Source: OpenAI sait repérer le travail de ChatGPT, mais hésite à le partager
