Selon Mira Murati, directrice de la technologie de l’entreprise, cet outil est fiable à 99%.
À l’occasion de l’événement Tech Live du Wall Street Journal, OpenAI a révélé travailler sur un détecteur d’images générées par l’intelligence artificielle (IA). Capable de déterminer la provenance d’une image, il serait fiable à 99% selon Mira Murati, directrice de la technologie de la startup. Comme le rapporte Bloomberg, cet outil est actuellement testé en interne, avant un lancement public.
OpenAI est loin d’être la seule entreprise à travailler sur des moyens de détecter les contenus générés par l’IA. Fin août, Deepmind, la filiale spécialisée en IA de Google, a par exemple lancé SynthID, une technologie intégrant un filigrane numérique directement dans une image générée par IA, qui peut être facilement repéré par un outil de détection. Il ne s’agit d’ailleurs pas du premier détecteur développé par le créateur de ChatGPT. Face aux nombreuses IA génératrices de contenus, OpenAI avait lancé un classificateur capable de déterminer si un texte a été rédigé par une IA ou un humain en février. La société l’a cependant débranché quelques mois après à cause d’un faible taux de précision.
Atténuer les problèmes posés par l’IA générative
Lors de l’événement du Wall Street Journal, Mira Murati et Sam Altman, le PDG d’OpenAI, ont également parlé du successeur de GPT-4, dernière version de la technologie alimentant ChatGPT. La startup ayant déposé la marque « GPT-5 » auprès du Bureau américain des brevets et des marques de commerce en juillet, il est possible que ce soit le nom de ce futur modèle.
Les chatbots ayant tendance à halluciner, soit à inventer des informations, Mira Murati, interrogée à ce sujet, a déclaré que le successeur de GPT-4 ne le ferait « peut-être » pas. « Nous avons fait beaucoup de progrès sur le problème des hallucinations avec GPT-4, mais nous ne sommes pas là où nous devrions être. Nous sommes en quelque sorte sur la bonne voie », a-t-elle assuré. Cela fait partie des efforts d’OpenAI pour atténuer les problèmes posés par l’IA générative.
