Cette action temporaire a été prise après la prolifération d’images à caractère pornographique de la chanteuse générées à l’aide de l’IA sur le réseau social.
« Une erreur s’est produite. Essayez de recharger la page ». Voici le message affiché par X (ex-Twitter) lorsqu’on effectue une recherche sur Taylor Swift sur sa plateforme. Le réseau social a bloqué les recherches sur la chanteuse quelques jours après que des images pornographiques d’elle générées à l’aide de l’intelligence artificielle (IA) ont proliféré sur son site. « Il s’agit d’une action temporaire et effectuée avec beaucoup de prudence car nous accordons la priorité à la sécurité sur ce problème », a expliqué Joe Benarroch, responsable des opérations commerciales de X.
Soutien des fans
Ces deepfakes pornographiques de Taylor Swift, élue personnalité de l’année 2023 par le magazine Time, ont commencé à se répandre mercredi sur la plateforme, avec le terme « Taylor Swift AI » qui est devenu un sujet tendance dans certains régions . Alors que ces fausses images ont été vues des millions de fois, les fans de la chanteuse – les Swifties – ont répliqué en diffusant un maximum de contenus légitimes sur l’artiste, afin de noyer ces deepfakes et de les rendre plus difficiles à trouver. Ces publications se terminaient souvent avec le message « Protégez Taylor Swift ».
X a fini par agir en fermant plusieurs comptes ayant partagé ces images pornographiques. « La publication d’images de nudité non consensuelle est strictement interdite sur X et nous appliquons une politique de tolérance zéro quant à ce type de contenus. Nos équipes suppriment activement toutes les images identifiées et prennent les mesures appropriées contre les comptes responsables de leur publication », a déclaré l’entreprise vendredi. Certaines de ces images étaient cependant toujours disponibles sur la plateforme.
De plus, comme l’a remarqué The Verge, il est possible de contourner le blocage mis en place par X en ajoutant des guillemets autour du nom de la chanteuse ou encore en tapant « Taylor AI Swift ». À noter que d’autres réseaux sociaux, sur lesquels les deepfakes de l’artiste ont aussi été publiés, ont pris des mesures. Après avoir tapé « Taylor Swift AI » sur Threads et Instagram, les deux applications de Meta demandent si l’on souhaite vraiment continuer, précisant que « le terme que vous avez recherché est parfois associé à des activités de personnes et d’organisations dangereuses ».
Un nouveau centre dédié à la lutte contre les contenus liés aux abus sexuels sur mineurs
Cet incident intervient alors qu’Elon Musk a considérablement réduit les effectifs des équipes de modération depuis qu’il a racheté le réseau social et que l’IA est souvent utilisée pour générer des images pornographiques, notamment de mineurs. La société a d’ailleurs annoncé vendredi la construction d’un centre dédié à la modération à Austin, au Texas, pour lutter contre les contenus liés aux abus sexuels sur mineurs. Elle a publié un article de blog sur ses efforts en la matière, se disant « déterminée à rendre X inhospitalier pour les acteurs qui cherchent à exploiter des mineurs ».
Avec ce « Centre d’excellence pour la confiance et la sécurité », l’entreprise vise à embaucher une centaine de modérateurs, a indiqué Joe Benarroch à l’AFP. Même si « X n’a pas d’activité axée sur les enfants », « il est important que nous fassions ces investissements pour empêcher les délinquants d’utiliser notre plateforme pour TOUT type de distribution ou d’engagement avec des contenus relevant des abus sexuels sur mineurs », a affirmé le responsable des opérations commerciales.
Cette annonce intervient quelques jours avant une audition de plusieurs entreprises de la tech, dont Meta et TikTok, au Sénat. Leurs patrons seront interrogés au sujet de leurs efforts pour protéger les mineurs de l’exploitation sexuelle sur leurs plateformes.
