Une nouvelle étude de la startup NewsGuard révèle comment le réseau social est devenu un vivier d’infox sur les marques.
Avec les nombreuses fake news circulant sur sa plateforme, TikTok porte préjudice à plusieurs grandes marques. C’est ce que révèle NewsGuard, startup spécialisée dans la lutte contre les fausses informations, dans une nouvelle étude publiée mardi. Dans le cadre de celle-ci, la société a analysé les résultats de recherche de vidéos portant sur neuf marques, dont Barilla, Heineken et Balenciaga. Elles ont été retenues « parce qu’elles sont récemment devenues la cible de critiques d’ordre politique ou de boycotts », précise NewsGuard.
De fausses informations associées à des mots-clés
Les vidéos relayant de fausses informations sur ces dernières ont été visionnées 57 millions de fois. Elles font partie des premières publications figurant dans les résultats de recherche d’une vingtaine de mots-clés associés aux marques. Plus précisément, NewsGuard a trouvé des fake news à l’aide de recherches simples comme « Heineken », mais aussi de recherches suggérées par TikTok, qui orientent les utilisateurs vers des théories du complot et de fausses informations.
Le réseau social a par exemple suggéré les termes « Heineken complot » ou « Heineken bill gates ». Ces mots-clés ont fait remonter des vidéos affirmant, entre autres, que la participation financière de Bill Gates dans l’entreprise néerlandaise fait partie d’un plan visant à réduire la population mondiale ou qu’il utilise la bière pour « injecter des substances » dans la nourriture, l’eau et les animaux.
Autre exemple avec Barilla : la première phrase de recherche suggérée était « barilla insetti » (« Barilla insectes »). À partir de ce mot-clé, TikTok a proposé quatre vidéos assurant que les pâtes de la marque sont fabriquées avec de la farine d’insectes. Selon NewsGuard, ce récit aurait commencé à circuler en octobre 2022, après que la Barilla Foundation, qui est liée à l’entreprise de pâtes, a tweeté une vidéo dans laquelle un comédien italien parle de la valeur nutritionnelle de la nourriture faite à partir d’insectes. Cette campagne de communication avait suscité un tollé, poussant la Barilla Foundation a affirmé qu’elle ne prévoit pas de développer des produits fabriqués à partir de farine d’insectes dans un communiqué.
De fausses informations créées à l’aide de l’IA
Sur les 57 millions de vues, près de la moitié des portaient sur des vidéos dont les contenus ont été altérés numériquement. Plus précisément, parmi les 73 identifiées comme fausses ou trompeuses par NewsGuard, sept comprenaient des images et clips altérés numériquement, dont trois à l’aide de l’intelligence artificielle (IA). Deux de ces vidéos présentant des images générées par l’IA assuraient que Target, entreprise américaine de grande distribution, vendait des vêtements sataniques, poussant de nombreux utilisateurs à boycotter la marque. L’une d’elles, publiée par l’influenceur chrétien King Joshua a été vue plus d’un million de fois.
Les images incluses dans cette vidéo provenaient en réalité d’une utilisatrice de Facebook nommée « The Pumpkin Express ». Elle les a publiées sur sa page en mai dernier avec la légende « Photos générées par l’IA : par votre humble servante, n’hésitez pas à tomber dans le panneau ».
Des préjudices et atteintes autorisés sur TikTok
Ces fausses vidéos sont présentes sur TikTok alors que le réseau social interdit « les contenus inexacts, trompeurs ou faux qui sont susceptibles d’entraîner un préjudice important aux personnes ou à la société », comme l’indiquent ses règles communautaires. Cela, car cette politique « n’inclut pas le préjudice commercial et les atteintes à la réputation ». Interrogé par NewsGuard à ce sujet, une porte-parole de TikTok a affirmé que ces consignes correspondaient aux standards de l’industrie concernant la mésinformation.
L’application ayant durci ses règles contre les deepfakes plus tôt cette année, ces règles communautaires indiquent également que « les médias synthétiques ou manipulés exposant les scènes réalistes doivent être manifestement dénoncés » avec un sticker ou une légende. Pourtant, aucune des vidéos altérées identifiées par NewsGuard ne comportait une légende ou autocollant précisant qu’elles avaient été modifiées. Selon la porte-parole de TikTok, trois des 18 vidéos partagées par la startup ont été retirées. NewsGuard assure cependant que seulement deux d’entre elles ont été supprimées par la plateforme.
