Montrant des contenus à caractère sexuel, ces vidéos ont été créées à partir d’images d’adolescents d’un établissement scolaire.
Un phénomène qui prend de l’ampleur. Jeudi dernier, la justice équatorienne a annoncé l’ouverture d’une enquête après la diffusion de vidéos pornographiques générées par l’intelligence artificielle (IA), a rapporté l’AFP. Ces images et vidéos altérées mettent en scène des élèves d’un établissement d’enseignement de Quinto, capitale de l’Équateur, a indiqué le parquet sur X (ex-Twitter).
Pour les créer, les auteurs présumés ont manipulé des photos d’adolescents en associant leur visage au corps nu d’autres personnes. D’après Sybel Martinez, directrice du programme de lutte contre le harcèlement Grupo Rescate Escolar, « environ 700 vidéos à contenu sexuel et érotique » ont été découvertes dans cet établissement scolaire, impliquant des images de 20 à 24 élèves. Les auteurs présumés risquent de passer plusieurs années derrière les barreaux. En Équateur, la distribution de contenu à caractère pornographique mettant en scène des enfants ou des adolescents est en effet passible d’une peine maximale de 16 ans de prison.
Un phénomène inquiétant
L’affaire agite le pays d’Amérique du Sud, qui n’est pas le seul inquiété par ce phénomène. Elle fait suite à un incident similaire survenu en Espagne. Une trentaine de jeunes filles mineures d’Almendralejo ont été cyberharcelées avec des images d’elles dénudées générées par une IA qui ont circulé sur les portables des collégiens de la ville. Plus de 20 plaintes ont été déposées auprès de la police espagnole.
Bénéfique dans de nombreux domaines, l’IA suscite une inquiétude croissante dans le monde, pouvant être utilisée à des fins malveillantes, comme la création de deepfakes, soit des images ou vidéos altérées par cette technologie. En juin, le FBI a alerté sur une augmentation du nombre de victimes de sextorsion à l’aide de deepfakes pornographiques diffusées sur les réseaux sociaux ou sur des sites pornographiques. Le mois dernier, les procureurs généraux des 50 États américains ont également appelé le Congrès à lutter contre les contenus pédopornographiques générés par l’IA afin de protéger les enfants.
