Dans une lettre, les procureurs généraux des 50 États exhortent le Congrès à étudier la manière dont cette technologie peut être utilisée dans l’exploitation sexuelle des mineurs.
Une utilisation malveillante qui inquiète. Face à l’usage de l’intelligence artificielle (IA) pour générer des contenus pédopornographiques, les procureurs généraux des États-Unis ont appelé le Congrès à proposer une loi pour protéger les enfants de ces abus.
Dans une lettre envoyée mardi, ils lui demandent de « créer une commission d’experts pour étudier les moyens et méthodes de l’IA qui peuvent être utilisés spécifiquement pour exploiter les enfants ». Ils l’exhortent également à « agir pour dissuader et lutter » contre ce danger, notamment « en élargissant les restrictions existantes sur l’exploitation sexuelle des enfants pour couvrir explicitement les contenus pédopornographiques générés par IA ».
Protéger les enfants des dangers de l’IA
Selon Alan Wilson, procureur général de la Caroline du Sud qui a mené l’effort, les dangers que pose l’IA en termes de contenus pédopornographiques se recoupent en trois catégories autour des deepfakes. Elle peut être exploitée pour altérer l’image ou la vidéo d’un enfant qui a déjà été maltraité physiquement ou d’un autre qui n’en a jamais été victime, mais aussi pour générer l’image d’un enfant qui n’existe pas. Cela, afin de représenter de nouveaux abus. « Nous sommes engagés dans une course contre la montre pour protéger les enfants de notre pays des dangers de l’IA », ont écrit les procureurs.
Contrairement à l’Union européenne, aucun signe ne montre que le Congrès va très prochainement élaborer de nouvelles règles concernant l’IA. La Maison Blanche a cependant discuté des risques de cette technologie avec les géants du secteur en mai, les appelant à prendre des mesures pour assurer une innovation responsable et des garanties appropriées. Des mesures ont par ailleurs été prises au sein de l’industrie technologique pour lutter contre ce problème. En février, Meta a par exemple participé à la création d’un outil en ligne permettant aux adolescents de signaler des images et vidéos explicites d’eux-mêmes sur Internet. Il fonctionne aussi avec les contenus générés par IA.
