Dénonçant des « abus », l’IA génératrice d’images a précisé que cela n’était pas lié à l’utilisation récente de son service pour créer des images hyperréalistes qui sont devenues virales.
Depuis mardi, il n’est plus possible de tester gratuitement Midjourney. L’intelligence artificielle (IA) génératrice d’images a temporairement mis fin aux essais gratuits, comme l’a annoncé son fondateur et PDG, David Holz, sur Discord. Il a expliqué que cela était lié à des « demandes extraordinaires et des abus dans les essais », rapporte le Washington Post.
Cette mention d’abus a conduit à un « malentendu », a indiqué le PDG au média américain The Verge. Plusieurs médias ont en effet pensé que cette pause dans les essais gratuits était liée à la création d’images récemment devenues virales sur les réseaux sociaux, comme le pape François en doudoune, ou l’arrestation de Donald Trump. Alors qu’elles ont été générées avec Midjourney, de nombreuses personnes ont cru qu’elles étaient réelles. David Holz a par ailleurs indiqué que les comptes gratuits n’avaient pas accès à la nouvelle version de l’IA, qui permet d’obtenir des images plus réalistes et qui aurait été utilisée pour créer celles devenues virales.
Un problème de modération
En réalité, Midjourney a suspendu les essais gratuits « à cause d’un nombre considérable de personnes créant des comptes jetables pour obtenir des images gratuites ». « Nous pensons que le coupable était probablement une vidéo tuto virale en Chine », a déclaré le PDG, ajoutant « cela s’est produit en même temps qu’une pénurie temporaire de GPU (processeur graphique, ndlr) ». Midjourney a déjà essayé de réactiver les essais gratuits avec de nouveaux garde-fous mais ces derniers n’étaient pas suffisants.
La modération est difficile pour le service, qui impose peu de restrictions. Dans ses lignes directrices, il indique que les utilisateurs doivent avoir au moins 13 ans et précise que les contenus pour adultes et gore sont interdits, tout comme les prompts textuels « intrinsèquement irrespectueux, agressifs ou autrement abusifs ». Midjourney a en outre mis en place une liste de mots interdits « liés à des sujets dans différents pays sur la base de plaintes d’utilisateurs de ces pays ». Cette liste a récemment été élargie avec l’ajout du mot « arrested » (arrêté en français) à la suite de la création des images de l’ancien président se faisant arrêter par la police. Le logiciel travaille actuellement sur des améliorations de son système, qu’il prévoit de déployer bientôt.
