Dès la semaine prochaine, les utilisateurs mobiles de ChatGPT et Dall-E 3 verront un symbole CR visible dans chaque image.
OpenAI en dévoile plus sur son plan de lutte contre la désinformation à l’occasion des nombreuses élections qui auront lieu cette année. Après avoir annoncé le lancement de plusieurs outils pour offrir une meilleure transparence sur la provenance des contenus générés par ces outils, le créateur de ChatGPT a dévoilé que l’un d’eux sera déployé dès la semaine prochaine.
Concrètement, la startup va ajouter des filigranes aux métadonnées des images générées par son chatbot et Dall-E 3. L’un d’entre eux sera invisible, mais l’autre apparaîtra dans le coin supérieur gauche de chaque image, sous la forme d’un symbole CR. OpenAI assure que l’ajout de ces filigranes « devrait avoir un effet négligeable sur la latence et n’affectera pas la qualité de la génération d’images ». Les utilisateurs mobiles des deux services pourront voir ce symbole à partir du 12 février. Ils auront également la possibilité de voir quel outil a été utilisé pour créer une image via des sites comme Content Credentials Verify.
Une méthode loin d’être parfaite
Ces métadonnées sont conformes à la norme C2PA (Coalition pour la provenance et l’authenticité des contenus). Annoncée le mois dernier, son approche consiste à encoder les informations sur la provenance d’un contenu à l’aide de la cryptographie. Parmi ses membres figurent Microsoft, Adobe, Leica ou encore Sony. « Les métadonnées telles que C2PA ne constituent pas une solution miracle pour résoudre les problèmes de provenance », a reconnu OpenAI. Elles peuvent en effet être des images, ce que font d’ailleurs la plupart des réseaux sociaux.
Autrement dit, il est impossible de savoir si une image a été générée par les outils de la startup sans ces métadonnées. Malgré cela, « nous pensons que l’adoption de ces méthodes pour établir la provenance et encourager les utilisateurs à reconnaître ces signaux est essentielle pour accroître la fiabilité des informations numériques », a déclaré OpenAI.
En intégrant ces filigranes aux images créées par ses outils, la société suit les traces de Google et de Meta. Le groupe californien vient d’ailleurs d’annoncer qu’il étiquettera bientôt les images générées par les systèmes d’autres entreprises, dont OpenAI, sur ses plateformes dans les prochains mois.
