Appelé SynthID, cet outil fonctionne uniquement avec Imagen, l’IA génératrice d’images de la firme, pour le moment.
Pour Google, la création d’outils d’intelligence artificielle (IA) générative nécessite aussi de disposer d’outils permettant de détecter les contenus créés par cette technologie. Face aux deepfakes et autres faux contenus générés artificiellement, sa filiale spécialisée en IA, Deepmind, vient de lancer SynthID. Disponible en version bêta, il s’agit d’une technologie intégrant un filigrane numérique directement dans une image générée par IA. Imperceptible à l’œil humain, celui-ci peut être facilement repéré par un outil de détection.
« Être capable d’identifier le contenu généré par l’IA est essentiel pour permettre aux gens de savoir quand ils interagissent avec les médias générés artificiellement et pour contribuer à prévenir la propagation de la désinformation », a affirmé Deepmind dans un article de blog.
Un outil à améliorer
La filiale assure que SynthID a été conçu pour « ne pas compromettre la qualité de l’image et permettre au filigrane de rester détectable, même après des modifications telles que l’ajout de filtres, le changement de couleurs et l’enregistrement avec divers systèmes de compression avec perte ». Il serait ainsi plus efficace que les filigranes traditionnels, qui « sont souvent appliqués comme un tampon sur une image et peuvent facilement être supprimés ».
Pour le moment, SynthID fonctionne uniquement avec Imagen, l’IA génératrice d’images de Google. En plus d’ajouter un filigrane imperceptible aux contenus produits par celle-ci, l’outil peut aussi évaluer la probabilité qu’une image ait été créée par elle. Autre bémol : seul « un nombre limité » de clients Vertex AI – plateforme d’IA de Google – peuvent utiliser SynthID actuellement. L’outil est par ailleurs loin d’être parfait, comme le reconnaît Deepmind. S’il « résiste à de nombreuses manipulations d’images courantes », il « n’est pas infaillible face aux manipulations extrêmes d’images », a indiqué la filiale.
À noter que SynthID pourrait, plus tard, être étendu à d’autres modèles d’IA, y compris ceux permettant de générer du texte, de la vidéo et de l’audio.
