La startup a présenté son plan de lutte contre les fausses informations lors des nombreuses élections qui auront lieu cette année.
Une année électorale record. En 2024, plusieurs élections (présidentielles, législatives, régionales et municipales) se tiendront dans de nombreux pays, dont les États-Unis, le Brésil ou encore l’Inde. Alors que plus de 4 milliards de citoyens sont appelés aux urnes cette année, OpenAI vient de présenter son plan de lutte face à la menace de la désinformation avec l’intelligence artificielle (IA).
« Nous voulons nous assurer que notre technologie ne sera pas utilisée de manière à porter atteinte » au processus démocratique, a expliqué le créateur de ChatGPT dans un article de blog. Dans cet objectif, la startup veut prévenir les abus, tels que les deepfakes, les opérations d’influence à grande échelle ou la création de chatbots se faisant passer pour des candidats. « Nous sommes toujours en train d’évaluer l’efficacité potentielle de nos outils pour de la persuasion individuelle. Jusqu’à ce que nous en sachions plus, nous n’autoriserons pas les gens à construire des applications pour des campagnes politiques ou militantes », a indiqué OpenAI.
Une meilleure transparence sur la provenance des contenus
La startup va également lancer plusieurs outils pour offrir une meilleure transparence sur la provenance des contenus générés par ces IA. « Au début de cette année, nous allons mettre en œuvre les informations d’identification numériques de la Coalition pour la provenance et l’authenticité des contenus », a-t-elle fait savoir. Cette coalition regroupe plusieurs entreprises, dont Microsoft, Nikon et Sony. Son approche consiste à encoder les informations sur la provenance d’un contenu à l’aide de la cryptographie.
OpenAI travaille en outre sur un classificateur de provenance pour détecter les images générées par Dall-E. « Nos tests internes ont montré des premiers résultats prometteurs, même lorsque les images ont été soumises à des types courants de modifications », a affirmé l’entreprise. Elle va bientôt permettre à des journalistes, des chercheurs et des plateformes de tester cet outil afin d’obtenir leurs retours.
Enfin, OpenAI va aider les internautes à accéder à des informations de vote faisant autorité avec ChatGPT. Lorsque son chatbot sera interrogé sur les élections américaines, il orientera les électeurs vers des sites reconnus.
