Une étude révèle comment la plateforme vidéo a recommandé des contenus liés aux armes à feu et à la violence armée à des garçons intéressés par les jeux vidéo.
YouTube assure que son algorithme de recommandation est sûr, mais c’est loin d’être le cas. C’est ce que démontre une nouvelle étude menée par le Tech Transparency Project (TTP), une organisation à but non lucratif. Publiée mardi, elle révèle que la plateforme vidéo de Google a recommandé des centaines de contenus sur les armes à feu et la violence armée à des garçons intéressés par les jeux vidéo.
Dans le cadre de cette étude, les chercheurs du TTP ont créé quatre comptes YouTube « test », dont deux identifiés comme garçons de 9 ans et deux autres comme des adolescents de 14 ans. Ils ont ensuite regardé des playlists entièrement composées de vidéos de jeux, comme Roblox pour les mineurs de 9 ans et Grand Theft Auto pour ceux de 14 ans, afin d’établir leur intérêt pour les jeux vidéo. Une fois cela fait, les chercheurs ont surveillé et enregistré les contenus recommandés apparaissant sur page d’accueil de chaque compte pendant un mois (du 1er au 30 novembre 2022).
De contenus de jeux vidéo à des contenus de violence réelle
Les chercheurs ont ainsi découvert que l’algorithme de YouTube recommandait des vidéos liées aux armes à feu à l’ensemble de ces comptes. Elles comprenaient des scènes montrant des fusillades dans des écoles et des démonstrations graphiques de dommages que les armes à feu peuvent infliger à un corps humain. Parmi ces contenus figuraient aussi des guides montrant comment transformer une arme de poing en une arme entièrement automatique.
Enfin, YouTube leur a recommandé un film sur la vie du tueur en série Jeffrey Dahmer. Se concentrant sur les années de lycée de ce dernier, il contient des scènes de celui-ci se préparant à attaquer des gens avec une batte de baseball ou encore en train de tuer et disséquer des animaux.
Dans chaque tranche d’âge, l’un des comptes a regardé ces vidéos recommandées et l’autre ne l’a pas fait. Résultat : YouTube a diffusé du contenu sur les armes à feu à un volume beaucoup plus élevé aux premiers. Au cours du mois de novembre, la plateforme a par exemple proposé 1 325 vidéos d’armes à feu réelles au jeune de 14 ans suivant ses recommandations tandis que celui du même âge n’ayant pas cliqué sur le contenu recommandé n’en a vu que 172.
Des vidéos censées être interdites
En plus d’être inappropriées pour les mineurs, plusieurs de ces vidéos enfreignaient les propres politiques de YouTube sur les armes à feu, la violence et la sécurité des enfants. Ces règles interdisent en effet de montrer« des contenus violents ou sanglants destinés à choquer ou dégoûter les téléspectateurs », « des actes nuisibles ou dangereux impliquant des mineurs », et « des instructions sur la façon de transformer une arme à feu en arme automatique ». Pourtant, YouTube n’a pris aucune mesure apparente pour limiter ces contenus par rapport à l’âge.
La plateforme vidéo de Google a réagi à l’étude du TTP, un porte-parole soulignant qu’elle propose plusieurs options pour les jeunes utilisateurs, dont l’application YouTube Kids et des outils de supervision intégrés, qui « créent une expérience plus sûre pour les préadolescents et les adolescents ». « Nous accueillons favorablement la recherche sur nos recommandations et nous explorons d’autres moyens de faire appel à des chercheurs universitaires pour étudier nos systèmes », a-t-il ajouté.
YouTube émet tout de même quelques critiques concernant l’étude du TTP : « En examinant la méthodologie de ce rapport, il nous est difficile de tirer des conclusions solides. Par exemple, l’étude ne fournit pas de contexte sur le nombre de vidéos globales recommandées pour les comptes test, et ne donne pas non plus d’informations sur la façon dont les comptes test ont été configurés, y compris si les outils d’expériences supervisées de YouTube ont été utilisés », a expliqué le porte-parole.
