Actu

Des entreprises de la tech s’engagent à lutter contre les images pédopornographiques générées par IA

31 octobre 2023
Par Kesso Diallo
Les signataires onsidérent que l’IA peut aider à lutter contre les abus sexuels sur mineurs.
Les signataires onsidérent que l’IA peut aider à lutter contre les abus sexuels sur mineurs. ©salarko / Shutterstock

TikTok, Stability AI et d’autres acteurs ont signé une déclaration commune, s’engageant à travailler ensemble pour lutter contre ce fléau.

À l’approche du premier sommet mondial sur la sécurité de l’intelligence artificielle (IA) au Royaume-Uni, des entreprises de la tech se sont engagées à protéger les enfants face aux images pédopornographiques générées par cette technologie. Des outils comme Dall-E ou Midjourney sont en effet exploités par des prédateurs sexuels pour de faux contenus de ce type. 

TikTok, Snapchat et StabilityAI ont ainsi signé une déclaration commune, s’engageant à collaborer pour lutter contre cette utilisation malveillante. Parmi les 27 signataires figurent également OnlyFans, les gouvernements américain, allemand et australien et plusieurs associations dont le Centre national pour les enfants disparus et exploités« Nous sommes résolus à travailler ensemble pour garantir que nous utilisons une IA responsable pour lutter contre la menace d’abus sexuels sur enfants et nous nous engageons à continuer de travailler en collaboration pour garantir que les risques posés par l’IA dans la lutte contre les abus sexuels sur enfants ne deviennent pas insurmontables », ont-ils déclaré.

Garantir la sécurité des enfants

Considérant que l’IA peut aider à lutter contre ce type d’abus, en améliorant par exemple la capacité des forces de l’ordre à les détecter, les signataires soulignent que cette technologie « présente également des risques importants pour nos efforts visant à lutter contre la prolifération des contenus pédopornographiques et à empêcher la manipulation d’enfants ». Ils jugent ainsi nécessaire de développer l’IA dans l’intérêt commun de protéger ces derniers des abus sexuels dans toutes les nations.

Les signataires s’inquiètent également du risque que l’augmentation de la création et de la prolifération des contenus pédopornographiques générés par l’IA alimente la normalisation des comportements délictueux. Selon eux, tous les acteurs ont un rôle à jouer dans la garantie de la sécurité des enfants face aux risques de l’IA de pointe, notamment les entreprises qui développent ces systèmes, comme OpenAI. « Nous encourageons tous les acteurs concernés à faire preuve de transparence sur leurs plans visant à mesurer, surveiller et atténuer les capacités qui peuvent être exploitées par les agresseurs sexuels d’enfants », ont-ils indiqué. Pour assurer la sécurité des enfants contre ces risques, ils prévoient aussi d’élaborer des politiques. 

« Alors que ces technologies évoluent à un rythme exponentiel, la sécurité de nos enfants ne peut être une réflexion secondaire, et nous devons tous travailler en collaboration pour garantir que ces technologies disposent de mesures robustes », ont assuré les signataires.

À partir de
8€
Voir sur Fnac.com

Découvrez ici les meilleures offres Black Friday 2023

À lire

Article rédigé par
Kesso Diallo
Kesso Diallo
Journaliste
Pour aller plus loin