Les applications mobiles et les sites de génération d’image par IA ont le vent en poupe cette année. Mais leur inexorable succès interroge.
De nombreuses personnalités, qu’il s’agisse d’artistes ou d’experts dans la sécurité des données, tentent d’interpeller les utilisateurs et utilisatrices de ce genre d’applications sur smartphones. Si leur technologie est aujourd’hui bluffante, elle a été bâtie aux dépens du travail des autres et entraine d’énormes problèmes de gestion de la vie privée.
Des applications à succès
Selon le site data.ai, aux États-Unis, Lensa est l’application la plus téléchargée à la fois sur l’App Store et sur le Google Play Store depuis la sortie de sa fonctionnalité Magic Avatar. AI Art occupe, elle, la 6ᵉ place aujourd’hui devant les mastodontes Amazon, Netflix ou encore Instagram. Ces applications mobiles sont souvent utilisées dans un effet de mode. Les utilisateurs et utilisatrices se prennent en photo et l’app les transforme en images tirées de manga, film d’animation ou de jeu vidéo. Ces applications apportent des images uniques, au style original que la majorité des personnes ne savent créer elles-mêmes.
Derrière ce succès se cache en réalité une triste vérité, déplorée par de nombreux artistes : les IA nouvelle génération s’approprient le travail d’autrui pour apprendre et entraîner leur modèle de données. Il n’y a qu’à regarder les milliers de partages sous beaucoup de post Twitter pour se rendre compte du problème. La comédienne Jenny Yokobori a été une des voix les plus partagées sur le sujet. Elle, comme bien d’autres, accuse les outils de génération d’image par IA de blesser les artistes dans leur travail.
Ces IA, comme DALL-E ou Midjourney piochent dans d’énormes bases de données disponibles sur le net, sans demander d’autorisation particulière. Selon les témoignages, les IA n’apprendraient pas à créer d’elles-mêmes, mais bien à récupérer des petits morceaux d’œuvres existantes çà et là. Preuve en est : des témoignages rapportent la présence de signatures, certes déformées, des artistes originaux sur certaines images.
Une bombe à retardement pour la vie privée
Pour revenir aux applications mobiles, celles-ci, à l’image de Lensa, peuvent demander à l’utilisateur ou l’utilisatrice de leur fournir un certain nombre de photos de leur visage pour générer l’image artistique. Si l’entreprise derrière Lensa affirme qu’aucune photo n’est gardée définitivement, d’autres problèmes se posent. Selon la professeure Chanda Prescod-Weinstein, ces photos sont tout de même utilisées pour entrainer l’IA et sont converties en données. Si rien n’est encore confirmé, il se pourrait qu’à l’avenir, les IA génèrent des images incluant des morceaux des visages des utilisateurs et utilisatrices.
Les cadres des différentes entreprises qui éditent les sites ou les applications de génération d’images par IA se défendent tout de même face aux critiques et accusations. Par exemple, le P.D.G. de Prisma Labs, l’entreprise éditrice de Lensa, a déclaré auprès de Buzzfeed que « [les images générées par IA] ne possèdent pas le même niveau d’attention et d’appréciation de l’art que les êtres humains ». Pour ces personnes, une image générée par l’IA ne viendrait en aucun cas remplacer le travail d’un artiste, contrairement à ce qu’affirment les concernés, inquiets.
Un point intéressant souligné là encore par Buzzfeed est que Lensa, dans cet exemple précis, a tendance à donner des formes bien trop généreuses et sexualisantes aux femmes désirant utiliser Magic Avatar. Des personnes de couleur ont même pu voir leur visage blanchi par l’IA. En bref, si les technologies déployées par les générateurs d’images ou de textes par IA sont impressionnantes, elles semblent encore manquer cruellement d’un cadre juridique précis.
