Un nouvel outil permet à Gemini de chausser ses lunettes de détective pour vous aider à trier le vrai du faux.
Qui de mieux qu’un robot pour reconnaître un robot ? Cette question, qui empêche encore Rick Deckard de Blade Runner de dormir la nuit, a inspiré Google. Sur son blog, l’entreprise annonce que Gemini peut désormais détecter les vidéos générées par son propre algorithme… et son algorithme uniquement.
Gemini vous aide à repérer le contenu généré par IA
Un mois après avoir annoncé une fonctionnalité dédiée à la reconnaissance d’images créées par intelligence artificielle, Google étend les capacités de reconnaissance de Gemini aux vidéos. Il existe toutefois une limite majeure à son système : il n’est capable de reconnaître que les images et vidéos générées par Gemini et ses dérivés.
Toutes les vidéos et toutes les images créées par Gemini sont porteuses de métadonnées particulières, baptisées SynthID. Une sorte d’empreinte numérique qui facilite le travail de détection de Gemini. Aujourd’hui, il suffit de partager une photo ou une vidéo dans une nouvelle fenêtre de conversation avec Gemini et de lui demander : « Cette vidéo/photo a-t-elle été générée en utilisant l’IA Google ? » Si le robot parvient à trouver une trace de SynthID dans les métadonnées du fichier, la réponse reviendra positive. Mais le cas contraire n’élimine pas forcément la possibilité que ledit contenu soit bien issu de l’IA générative.
On l’a dit, Google n’est pour l’heure capable de reconnaître que les créations made by Google. Dans l’attente d’un standard universel de marquage du contenu IA, c’est donc à la charge de chaque promoteur de l’IA de jouer la carte de la transparence en permettant, a minima, de vérifier si leur propre outil peut être responsable de la création de telle ou telle image ou vidéo.
Les limites du système
Parallèlement à l’incapacité de Gemini de détecter les contenus générés par IA sur d’autres plateformes, on ignore surtout à quel point le filigrane de SynthID est indélébile. On ne doute pas que des outils en ligne se proposent déjà de retirer ces métadonnées afin de rendre la détection du contenu IA plus difficile encore. Pour les photos, quelques sites permettent déjà de « déjaunifier » vos images générées par IA afin de lever certaines suspicions.
De l’autre côté de la barrière, on trouve également quantité de sites se proposant de détecter, avec plus ou moins de succès, si une image, un texte ou une vidéo a été générée par l’intelligence artificielle. L’outil de Undetectable.ai est souvent cité comme le plus performant, avec Decopy (surtout pour le texte). Nul doute que d’autres verront prochainement le jour – une initiative européenne sur la conception d’un outil fiable et souverain serait la bienvenue.
En début de semaine, le quotidien Le Monde publiait pour sa part un petit guide pratique avec des conseils pour mieux repérer les vidéos générées par IA.
