Permettant de repérer les contenus terroristes et d’autres posant problème, l’outil va être partagé avec d’autres plateformes.
Terrorisme, exploitation sexuelle d’enfants… Plusieurs images et vidéos problématiques sont publiées sur les réseaux sociaux. Pour empêcher la diffusion de ces contenus, Meta vient de dévoiler un outil open source baptisé Hasher-Matcher-Actioner (HMA). Lancé mardi, il a été développé dans le but d’aider les plateformes à repérer ces images ou vidéos et « à agir en masse contre elles », indique Nick Clegg, président des affaires internationales de la firme, dans un communiqué.
Faciliter la lutte contre la diffusion de contenus problématiques
Selon Meta, l’outil peut être utilisé pour tout type de contenu considéré comme non conforme par une plateforme. Pour cela, un réseau social doit d’abord étiqueter une image ou une vidéo comme telle et l’entrer dans HMA. L’outil crée alors une empreinte numérique unique – aussi appelée « hachage » – pour ce contenu. Il s’agit d’une suite de chiffres et de lettres la plupart du temps. Cette empreinte digitale est ensuite conservée dans la base de données de la plateforme.
Autrement dit, ce n’est pas l’image ou la vidéo elle-même qui est stockée dans la base de données. Au fur et à mesure que HMA trouve des correspondances pour une empreinte numérique, le réseau social peut examiner les contenus en question et les supprimer ou prendre une autre mesure. Cela, de façon automatique ou au cas par cas. L’outil peut aussi fonctionner avec d’autres bases de données de hachage existantes, au sein desquelles figurent des contenus trouvés et signalés comme problématiques par d’autres entreprises. Meta espère qu’il sera particulièrement utile aux petites sociétés, qui ne disposent pas des mêmes ressources que les autres.
Le groupe californien a fait cette annonce dans le cadre de sa future présidence du conseil d’administration du Global Internet Forum Counter Terrorism (GIFCT). Rassemblant des entreprises technologiques, des gouvernements et des organisations de société civile, cette ONG a pour but de lutter contre les contenus terroristes et extrémistes violents en ligne.
