OpenAI, la société à l’origine de cet outil, avait auparavant interdit une telle fonctionnalité par crainte d’une mauvaise utilisation.
Récemment entrée en phase de bêta, DALL-E 2 peut maintenant être utilisée pour modifier les visages de personnes. Dans une lettre envoyée aux utilisateurs de cette intelligence artificielle (IA) génératrice d’images et repérée par TechCrunch, OpenAI annonce que cette fonctionnalité auparavant interdite est désormais disponible. Ils ont ainsi la possibilité de télécharger une photo d’une véritable personne et de l’éditer, en changeant ses vêtements ou sa coiffure par exemple.
La société a changé d’avis sur cette fonctionnalité à la suite de demandes de la part d’utilisateurs, à l’instar de cinéastes souhaitant « pouvoir modifier des images de scènes avec des gens pour aider à accélérer leurs processus créatifs ». Un chirurgien reconstructeur a également déclaré se servir de DALL-E 2 afin d’aider ses patients à visualiser les résultats.
Éviter une utilisation abusive
Avant ce changement, les utilisateurs étaient seulement en mesure de travailler et de partager des visages photoréalistes. OpenAI interdisait le téléchargement de photos pouvant représenter une personne réelle et craignait que la possibilité de modifier ces images soient utilisées de manière abusive. Pour éviter cela, l’entreprise affirme avoir amélioré ses filtres, permettant la suppression des images comprenant des « contenus sexuels, politiques et violents ». Elle assure également avoir minimisé « le potentiel de dommages causés par les deepfakes » avec les améliorations de son système de sécurité. Ces vidéos altérées à l’aide de l’IA peuvent en effet porter préjudice, étant, entre autres, utilisées par des cybercriminels pour induire en erreur des personnes.
Avec cette approche, OpenAI cherche à éviter des problèmes que d’autres entreprises ont connu avec leurs outils, comme le système Stable Diffusion de Stability AI. Permettant aussi de modifier des images faciales, mais imposant moins de contraintes aux utilisateurs, il a été exploité par certains pour créer des deepfakes pornographiques et non consensuels de célébrités. Ce type de contenus devrait être bloqué avec DALL-E étant donné qu’OpenAI interdit toujours le téléchargement de photos de personnes sans leur consentement ou d’images sur lesquelles les utilisateurs n’ont pas les droits.
