Lancé en février, l’outil n’est plus disponible depuis le 20 juillet. OpenAI a pris cette décision à cause d’un faible taux de précision.
Depuis son lancement, ChatGPT est utilisé dans de nombreux cas, notamment pour rédiger les devoirs à la place des élèves ou générer de fausses informations. Face à ces usages, OpenAI a lancé un outil capable de détecter si un texte a été rédigé par une intelligence artificielle (IA) ou un humain. La startup vient de débrancher ce classificateur, à cause d’un faible taux de précision.
Permettre aux utilisateurs d’identifier les contenus générés par IA
Dans un article de blog mis à jour, elle précise que son outil n’est plus disponible depuis le 20 juillet. « Nous travaillons pour intégrer les commentaires et recherchons actuellement des techniques de provenance plus efficaces pour le texte », a indiqué OpenAI. La société avait en effet lancé ce classificateur afin d’obtenir des retours sur « l’utilité d’outils imparfaits comme celui-ci », avouant dès le départ qu’il n’était pas entièrement fiable. Il pouvait ainsi identifier à tort des textes rédigés par des humains comme étant générés par l’IA.
Le classificateur d’OpenAI disposait également d’autres limites, fonctionnant par exemple moins bien avec d’autres langues que l’anglais. Avant d’annoncer sa fermeture, la startup avait déclaré que son outil pourrait s’améliorer avec plus de données. Dans sa mise à jour, elle indique qu’elle prévoit de « développer et déployer des mécanismes qui permettent aux utilisateurs de comprendre si le contenu audio ou visuel est généré par l’IA », sans donner plus de détails.
L’annonce d’OpenAI intervient alors qu’elle vient de s’engager, aux côtés de six autres entreprises du secteur, à rendre l’IA plus sûre et transparente. Dans le cadre de cet engagement volontaire auprès de la Maison Blanche, elle va notamment « développer des techniques solides pour garantir que les utilisateurs sachent quand les contenus ont été générés par l’IA ». L’Union européenne souhaite, elle, rendre cela obligatoire avec l’AI Act, son projet de régulation de l’IA approuvé par le Parlement européen le mois dernier.
