OpenAI : Un outil pour détecter les textes rédigés par ChatGPT

OpenAI a récemment mis au point un outil capable de détecter les textes générés par son modèle de langage, ChatGPT. Cependant, malgré la fonctionnalité de cet outil depuis environ un an, l'entreprise hésite à le rendre public. La raison ? Des implications économiques et éthiques.

Comment ça marche ?

L'outil de détection d'OpenAI analyse des éléments linguistiques spécifiques pour identifier les textes produits par ChatGPT. Cette technologie pourrait être fondamentale pour lutter contre la désinformation et le plagiat, en assurant que les contenus en ligne soient authentiques et non générés par une IA sans indication claire. Le système repose sur une technique de marquage numérique (watermarking) qui intègre des modifications subtiles dans le choix des mots, créant un motif détectable par l'outil.

Les hésitations d'OpenAI : enjeux économiques et écosystème de l'IA

Malgré les avantages potentiels de cet outil, OpenAI hésite à le déployer publiquement. Selon une étude commandée par l'entreprise, la mise en place de cet outil pourrait entraîner une diminution de l'utilisation de ChatGPT. En effet, 69 % des utilisateurs craignent que cette technologie ne conduise à des accusations erronées de tricherie, et 30 % déclarent qu'ils utiliseraient moins ChatGPT si l'outil de détection était mis en place.

Cette perspective est préoccupante pour OpenAI, dont les revenus dépendent en partie des versions payantes de ChatGPT. L'impact potentiel de cet outil sur l'ensemble de l'écosystème de l'IA est également un facteur clé de la réticence de l'entreprise à le déployer. OpenAI craint que la capacité à détecter les textes générés par des IA affecte négativement la confiance et l'adoption de ces technologies par divers secteurs.

Des risques pour la qualité et l'inclusivité

OpenAI a également mené des tests pour évaluer l'impact de cet outil sur la qualité des textes générés par ChatGPT. Bien que les résultats montrent que la qualité de l'écriture n'est pas compromise, l'entreprise reste prudente. Une porte-parole d'OpenAI a déclaré au Wall Street Journal que cette technologie, bien que prometteuse, présente des risques significatifs. Notamment pour les utilisateurs non natifs anglophones qui utilisent ChatGPT comme assistant linguistique. L'outil pourrait également être contourné par des méthodes simples de paraphrase, réduisant ainsi son efficacité.

Le développement par OpenAI d'un outil capable de détecter les textes rédigés par ChatGPT représente une avancée majeure dans le domaine de l'IA. Cependant, les implications économiques, éthiques et pratiques incitent l'entreprise à la prudence. OpenAI continue d'évaluer les alternatives et de chercher des solutions pour minimiser les risques. Tout en promouvant une utilisation responsable et transparente de ses technologies.

💡Cet article vous a plu ? Lisez également : iPhone 16 : Ce qu’il faut savoir sur le prochain smartphone d’Apple