Ces fausses images sont d’abord apparues sur 4chan, forum où leurs créateurs se sont affrontés pour contourner les filtres des IA génératrices d’images, selon la société Graphika.
Vus des millions de fois, les deepfakes de Taylor Swift qui ont proliféré sur les réseaux sociaux proviennent d’un défi en ligne. C’est ce que révèle la société d’analyse de réseaux sociaux Graphika, indiquant qu’ils ont commencé à apparaître sur 4chan. Sur ce forum, les utilisateurs se sont affrontés pour contourner les mécanismes mis en place par les créateurs d’outils de génération d’images populaires comme Dall-E d’OpenAI ou Designer de Microsoft.
Alors que ces sociétés cherchent à empêcher la génération d’images préjudiciables avec ces filtres, les utilisateurs ont trouvé des mots et des expressions pour créer des deepfakes pornographiques. « Ces images proviennent d’une communauté de personnes motivées par le “défi“ de contourner les garanties des produits d’IA générative et les nouvelles restrictions sont perçues comme un nouvel obstacle à “vaincre” », a déclaré Cristina López G. analyste principale chez Graphika, auprès de Bloomberg.
Plusieurs célébrités visées
Leur objectif était de créer des images sexuelles de personnalités féminines éminentes telles que des chanteuses et des politiciennes. « Bien que les images pornographiques virales de Taylor Swift aient attiré l’attention du grand public sur la question des images intimes non consensuelles générées par l’IA, elle est loin d’être la seule victime », a déclaré Cristina López G..
Outre la célèbre chanteuse, qui vient de battre un record aux Grammy Awards, les utilisateurs de 4chan ont aussi généré des images sexuelles ou violentes de Billie Eilish, Ariana Grande ou encore Emma Watson. « Dans la communauté 4chan d’où proviennent ces images, elle n’est même pas la personnalité publique la plus fréquemment ciblée. Cela montre que n’importe qui peut être ciblé de cette manière, des célébrités mondiales aux écoliers », a souligné l’analyste.
Les deepfakes de Taylor Swift sont ainsi d’abord apparus sur le forum début janvier, puis sur Telegram et X (ex-Twitter), qui a fini par bloquer temporairement les recherches sur la chanteuse face à la circulation massive de ces fausses images.
