Actu

Firefox vous aide à repérer le texte et les images générées par IA

05 février 2025
Par Pierre Crochart
Firefox vous aide à repérer le texte et les images générées par IA
©Mozilla

Après la détection automatisée de faux avis sur les grands sites d’e-commerce, Firefox lance une nouvelle offensive contre l’IA.

Deux ans après le rachat de l’entreprise spécialisée Fakespot et la publication d’un outil de détection de faux avis sous la forme d’une extension pour le navigateur Firefox, Mozilla passe la seconde avec Deep Fake Detector. Accessible sur un site web ou à installer sur son navigateur, cet outil permet d’analyser du texte et bientôt des images afin de savoir s’ils ont été créés par une intelligence artificielle.

Identifier le texte généré par IA

Cela ne vous aura pas échappé : les IA se perfectionnent et des outils permettent désormais de générer des vidéos (ou même des jeux vidéo) sur la base d’un simple prompt. La malaisante vidéo de Will Smith ingurgitant un plat de spaghettis n’est déjà plus qu’un lointain souvenir, et elle n’a pas encore fêté ses deux ans.

Se doter d’outils permettant de faire le tri entre du véritable contenu humain et du contenu généré par IA est donc une absolue nécessité. Entre les deepfakes et les images d’actualité fabriquées de toutes pièces, l’intelligence artificielle sert parfois des tentatives de manipulation de l’opinion sur lesquelles il faut rester alertes.

C’est, en partie, l’objet de Deep Fake Detector. Que ce soit à l’aide de l’extension (disponible aussi bien sur Firefox que sur les navigateurs Chromium) ou du site web, on peut venir coller un texte qui sera ensuite analysé afin d’estimer s’il a été généré par une IA ou non. Encore en alpha, le détecteur de texte n’accepte que les extraits de 120 mots au maximum. À l’heure où sont écrites ces lignes, l’outil semble par ailleurs indisponible, chaque requête étant accueillie par « Réessayez plus tard ».

Un modèle développé en interne

Pour animer son nouvel outil, Fakespot a développé un modèle maison, baptisé ApolloDFT, décrit par l’entreprise en ces termes : « Le modèle ApolloDFT excelle en termes de polyvalence dans divers domaines et de couverture complète des différents modèles de langage (LLMs). Il offre une défense robuste contre les attaques adversariales et garantit des performances efficaces sur des échantillons de texte de diverses longueurs. »

En clair : il est capable de déjouer les mesures prises par certaines IA pour tenter de tromper les systèmes de détection automatique. Mais Deep Fake Detector laisse également le choix d’utiliser un autre modèle, comme UAR, Zippy ou Binocular.

indicateurs performance deep fake detector modèles
©Fakespot

Un outil qui, lorsqu’il sera davantage fonctionnel, pourrait donc rejoindre l’attirail des professionnels, notamment les professeurs, pour vérifier que le travail rendu par certains élèves est bien de leur cru et pas signé ChatGPT – la jeune génération étant particulièrement attirée par les outils d’IA générative.

À lire aussi

Article rédigé par
Pierre Crochart
Pierre Crochart
Journaliste