Le géant américain développe un outil de modération gratuit qu’ils pourront utiliser pour identifier et supprimer ces contenus.
En Europe, les réseaux sociaux et autres plateformes vont bientôt devoir se plier à de nouvelles règles. Le Digital Services Act (DSA), entré en vigueur en novembre, et le projet de loi sur la sécurité en ligne qui devrait devenir loi cette année au Royaume-Uni les obligeront à faire plus pour lutter contre les contenus illégaux. Ils seront notamment tenus de supprimer les contenus extrémistes sous peine d’amendes et d’autres sanctions. Si les grandes entreprises comme Google ou Meta disposent des ressources nécessaires pour cela, ce n’est pas le cas des petits sites Web. La firme de Mountain View veut aider ces derniers.
Aider les petites plateformes face aux contenus terroristes
Le Financial Times vient de révéler que la société californienne travaille sur un outil de modération gratuit qu’ils pourront utiliser afin d’identifier et supprimer les contenus terroristes. Plus précisément, ce logiciel est développé par l’unité de recherche et de développement de Google, Jigsaw, en partenariat avec Tech Against Terrorism, une initiative soutenue par l’ONU qui travaille avec l’industrie technologique pour lutter contre l’utilisation terroriste d’Internet.
« Il y a beaucoup de sites Web qui n’ont tout simplement personne pour faire appliquer la loi. C’est une tâche très laborieuse que de construire les algorithmes [et] ensuite, vous avez besoin de tous ces examinateurs humains », a déclaré Yasmin Green, directrice générale de Jigsaw, au quotidien britannique. « Nous constatons que les terroristes cherchent à exploiter des plateformes plus petites où la modération de contenu est difficile en raison de ressources limitées », a également indiqué Adam Hadley, directeur de Tech Against Terrorism.
Les contenus terroristes sont en effet plus présents sur les petits sites Web que sur les grandes plateformes. Selon un rapport du Global Internet Forum to Counter Terrorism (GIFCT) datant de 2021, pour 10 000 publications sur Facebook, six contiendrait des images ou vidéos terroristes ou extrémistes. Un chiffre pouvant s’élever à 5 000 sur les plateformes plus petites, soit 50% du contenu.
Cette ONG rassemble des entreprises technologiques, des gouvernements et des organisations de société civile pour lutter contre les contenus terroristes et extrémistes violents en ligne. Meta, qui en fait partie, a lancé le mois dernier un outil open source afin d’aider les plateformes à repérer ce type d’images et vidéos ainsi que d’autres étant problématiques. Le logiciel développé par Jigsaw et Tech Against Terrorism a, lui, pour objectif d’aider les modérateurs humains à prendre des décisions pour les contenus signalés comme dangereux et illégaux. Elles prévoient de commencer les tests avec deux sites en ce début d’année.
