La startup NewsGuard a identifié 49 sites d’actualité dont les articles sont rédigés par un logiciel d’intelligence artificielle.
Alors que de nombreux médias utilisent l’intelligence artificielle (IA) pour générer des contenus particuliers ou les aider dans certaines tâches, d’autres sont entièrement alimentés par cette technologie. C’est ce que révèle NewsGuard, startup spécialisée dans la lutte contre les fausses informations, dans une étude publiée lundi. En avril, elle a identifié 49 sites d’actualité et d’information « qui semblent être entièrement ou majoritairement générés par des logiciels d’intelligence artificielle, conçus pour imiter la communication humaine et ressembler à des sites d’information traditionnels ».
« Bien que ces articles aient été clairement rédigés par l’IA, la plupart des articles publiés par les sites générés par l’IA ressemblaient à des textes rédigés par des humains, avec toutefois des différences subtiles. Les articles étaient souvent rédigés dans une langue formatée et répétaient souvent des phrases telles que “en conclusion” ou “il est important de se souvenir” », a indiqué NewsGuard.
Des sites avec de nombreux articles et publicités
Dans le détail, les sites identifiés ont généralement des noms inoffensifs ou génériques tels que Biz Breaking News ou Daily Business Post, laissant penser qu’ils sont exploités par des éditeurs légitimes. Ils publient dans sept langues, dont l’anglais, le chinois et le français. Cependant, ces sites n’indiquent pas qui les possède ou les contrôle et ils sont nombreux à être saturés d’annonces, signe qu’ils ont probablement été conçus pour générer des revenus grâce à la publicité programmatique.
Ces sites produisent en outre un volume important de contenus sur de nombreux sujets (politique, santé, divertissement, finance, technologie…). Leurs articles sont souvent composés de contenus résumés ou réécrits par d’autres sources. Ces derniers trahissent souvent le fait qu’ils ont été produits par l’IA, pouvant par exemple contenir des phrases similaires à celles produites par l’IA générative en réponse à des questions (« Je ne suis pas capable de produire 1500 mots… »). Par ailleurs, plusieurs de ces articles ne sont pas signés ou sont attribués à « Admin » et « Éditeur ».
Des sites véhiculant de faux récits
Selon NewsGuard, « un lecteur non averti ne se douterait probablement pas que les articles produits par bon nombre de ces fermes de contenu généré par IA n’ont pas été rédigés par des humains, si l’on excluait un élément révélateur flagrant ». Les 49 sites ont en effet tous publié au moins un article comprenant des messages d’erreur souvent trouvés dans les textes générés par l’IA, comme « ma date limite est septembre 2021 » ou « en tant que modèle de langage de l’IA ».
La startup révèle aussi que la plupart de ces sites n’ont pas diffusé pas de désinformation mais que certains ont « incité les outils d’intelligence artificielle à produire des informations trompeuses ou fausses ». Tel est le cas de CelebritiesDeaths.com, qui a publié un article indiquant la mort de Joe Biden en avril.
