Des chercheurs du gouvernement américain souhaitent développer un outil utilisant l’intelligence artificielle pour analyser les caractéristiques stylistiques et ainsi déterminer la paternité d’un texte. Il permettrait notamment de lutter contre la désinformation.
Des textes sont publiés chaque jour sur Internet, mais il n’est pas toujours facile de savoir qui en est l’auteur. Une personne peut publier un message de manière anonyme ou sous un pseudonyme. De l’autre côté, avec les progrès de l’intelligence artificielle (IA), un bot (logiciel automatique) est capable de générer un texte sans que l’on se doute qu’une machine se cache derrière. Un outil pourrait bientôt permettre d’identifier les auteurs de ce genre de publications.
Les chercheurs de l’Intelligence Advanced Research Projects Activity (IARPA), la branche de recherche de la communauté du renseignement américain, veulent développer un système d’IA dans cet objectif, selon le site Nextgov. Le Dr Timothy McKinnon, directeur de programme de l’IARPA le définit comme une « empreinte numérique », qui permettrait de lutter contre des activités malveillantes telles que les campagnes de désinformation ou la traite des êtres humains.
Identifier des caractéristiques stylistiques
Un tel système utiliserait l’IA et des données textuelles pour reconnaître des caractéristiques stylistiques qui rendent l’écriture d’une personne unique. Ces caractéristiques seraient comparées à d’autres documents pour identifier une empreinte numérique. « Imaginez si vous aviez 100 personnes différentes et que vous leur demandiez de décrire quelque chose de simple – comme comment ouvrir une porte – en deux phrases ou une phrase, vous obtiendriez probablement environ 100 réponses différentes, n’est-ce pas ? », a expliqué Timothy McKinnon. « Chaque personne a en quelque sorte ses propres idiosyncrasies en tant qu’auteur qui sont potentiellement utilisées par les systèmes d’attribution de la paternité ».
De cette manière, si un texte est généré par un bot afin de mener une campagne de désinformation, l’outil pourrait reconnaître que l’auteur est une machine, mais aussi « aider à comprendre les groupes engagés dans ces activités », selon le responsable de programme de l’IARPA. Le système permettrait également de protéger la vie privée d’une personne. Lorsqu’une empreinte numérique est identifiée, il serait possible de supprimer les caractéristiques d’identification de l’auteur, en modifiant le texte par exemple. Les cas d’utilisation mentionnés restent cependant théoriques. En effet, l’IARPA mène des projets exploratoires, mais elle ne détermine pas comment une technologie qu’elle crée sera déployée par les partenaires gouvernementaux. Ce sont les agences qui mettent en œuvre ces outils selon leurs besoins spécifiques.
