Face au succès fulgurant de ChatGPT, OpenAI avait proposé un outil censé être capable de déterminer si un texte avait été rédigé par un algorithme.
OpenAI retire son outil détectant les textes générés par une IA
En février dernier et alors que le phénomène ChatGPT secouait la toile, OpenAI mettait en ligne un outil capable d'analyser les textes afin de déterminer si ces derniers avaient été écrits ou non par une IA, dont ChatGPT. Les premiers retours n'étaient déjà pas folichons, la firme indiquant alors qu'il était impossible de détecter de manière certaine tous les textes écrits grâce à une IA. En effet, selon des tests menés en interne, l'outil qui ne fonctionnait qu'en anglais était très peu fiable pour des textes courts comprenant moins de 1 000 caractères.
Un outil trop peu fiable, retiré discrètement
Selon les propres termes d'OpenAI :
Notre classificateur n'est pas entièrement fiable. Dans nos évaluations sur un « ensemble de défis » de textes anglais, notre classificateur identifie correctement 26 % du texte écrit par l'IA (vrais positifs) comme « probablement écrit par l'IA », tout en étiquetant incorrectement le texte écrit par l'homme comme écrit par l'IA dans 9 % des cas (faux positifs).
Devant ce manque d'efficacité, OpenAI semble avoir jeté l'éponge -pour le moment tout du moins- et a retiré discrètement son logiciel, indiquant simplement sur la page de blog officielle :
Depuis le 20 juillet 2023, le classificateur AI n'est plus disponible en raison de son faible taux de précision. Nous travaillons pour intégrer les remarques et recherchons actuellement des techniques plus efficaces pour le texte, et nous nous sommes engagés à développer et déployer des mécanismes qui permettent aux utilisateurs de comprendre si le contenu audio ou visuel est généré par l'IA.
