Une application de création de deepfakes a diffusé des publicités sur les plateformes de Meta, dont plus d’une centaine montraient l’actrice semblant mimer un acte sexuel.
Une campagne de publicité massive sur les plateformes de Meta avec de fausses vidéos de célèbres actrices. Permettant de remplacer un visage par celui d’un autre individu ou de falsifier les propos d’une personnalité avec réalisme dans une vidéo, le deepfake (hypertrucage) est de plus en plus utilisé pour réaliser des contenus pornographiques. Une application permettant de créer ces fausses vidéos a déployé plus de 230 annonces sur Facebook, Instagram et Messenger dimanche et lundi, révèle NBC News.
Certaines d’entre elles ressemblaient au début de vidéos pornographiques avec la piste audio d’introduction des vidéos du site Pornhub. Le visage de femmes célèbres apparaissaient ensuite, échangé grâce au deepfake. Ainsi, 127 publicités montraient le visage d’Emma Watson, dont l’une où elle semble mimer un acte sexuel. Celui de Scarlett Johansson apparaissait, lui, dans 74 de ces annonces. Elles ont toutes été supprimées mardi, après que le site d’informations américain a tenté de contacter Meta.
Des contenus interdits mais passés entre les mailles du filet
L’application en question propose des dizaines de modèles de vidéos, avec plusieurs catégories comme « Mode », « Pour Hommes » ou encore « Hot ». Une fois que les utilisateurs ont sélectionné l’un d’eux ou importé le leur, ils obtiennent une version de la vidéo dans laquelle le visage a été échangé avec celui d’une autre personne, simplement à partir d’une photo.
Selon les conditions d’utilisation de l’application, il est interdit aux utilisateurs de se faire passer pour d’autres via ses services, mais aussi de télécharger du contenu sexuellement explicite. De son côté, Meta interdit le contenu pour adultes dans les publicités, ce qui inclut notamment les représentations de personnes dans des positions explicites ou suggestives. Le groupe californien a également prohibé la plupart des contenus deepfake en 2020. « Nos politiques interdisent le contenu pour adultes, qu’il soi généré par l’IA ou non, et nous avons interdit à cette page de faire de la publicité sur notre plateforme », a déclaré un porte-parole à NBC News.
À noter que ce n’est pas la première fois qu’Emma Watson est victime d’un deepfake. Fin janvier, une fausse voix ressemblant à celle de l’actrice, lisant un extrait du livre Mein Kampf a par exemple été généré grâce à un outil de synthèse vocal.
