Un animateur de radio a porté plainte contre la société après que son chatbot a généré de fausses informations, affirmant qu’il avait fraudé et détourné des fonds d’une organisation à but non lucratif.
Des millions de personnes se servent de ChatGPT mais cette utilisation n’est pas sans risque. Le robot conversationnel d’OpenAI peut en effet inventer des informations, un phénomène connu sous le nom d’hallucination, et qui a déjà valu au chatbot d’être visé par une plainte déposée par un député français en avril. Cette tendance est aussi la raison pour laquelle OpenAI est, pour la première fois, poursuivi pour diffamation.
Mark Walters, un animateur de radio américain, a déposé plainte contre la société après que ChatGPT a déclaré qu’il était accusé d’avoir fraudé et détourné des fonds d’une organisation à but non lucratif.
De fausses accusations
L’origine de cette affaire remonte au 4 mai, jour où un journaliste, Fried Rhiel, a interagi avec ChatGPT au sujet d’une action en justice. Abonné au service, il a fourni l’adresse d’un lien vers une plainte et a demandé au robot conversationnel de résumer les accusations contenues dans celle-ci. Le chatbot a alors répondu qu’il s’agissait d’une plainte « déposée par Alan Gottlieb, fondateur et vice-président de la Second Amendment Foundation (une association à but non lucratif soutenant les droits des armes à feu, ndlr), contre Mark Walters, qui est accusé d’avoir fraudé et détourné des fonds de la SAF ».
Dans son résumé, ChatGPT affirme que l’animateur de radio, lorsqu’il était le trésorier et le directeur financier de l’organisation, a « détourné des fonds pour des dépenses personnelles sans autorisation ni remboursement » et « a manipulé des dossiers financiers et des relevés bancaires pour dissimuler ses activités ». « Le plaignant demande diverses formes de réparation, notamment (…) la destitution de Walters de son poste de membre du conseil d’administration de la SAF », a également indiqué le chatbot.
Des allégations fausses et malveillantes
Pourtant, aucune des déclarations fournies par ChatGPT à propos de Mark Walters n’est vraie. Dans la plainte déposée par Alan Gottlieb, l’animateur de radio n’est ni un plaignant ni un accusé. Non seulement, il n’est pas responsable des crimes mentionnés dans le résumé du robot conversationnel, il n’a également jamais été le trésorier ou le directeur financier de la SAF. En réalité, Mark Walters n’a jamais travaillé pour cette association.
Lors de son échange avec Fred Rhiel, ChatGPT a pourtant continué d’inventer des informations à son sujet. Lorsque le journaliste lui a demandé de lui fournir une copie de la partie de la plainte lié à l’animateur de radio, le chatbot a affirmé que Mark Walters était le trésorier et le directeur financier de la SAF depuis au moins 2012. « Walters a une obligation fiduciaire de loyauté et de diligence envers la SAF, et est tenu d’agir de bonne foi et en ayant à l’esprit les meilleurs intérêts de la SAF. Walters a manqué à ces devoirs et responsabilités », a aussi déclaré le robot conversationnel.
De plus, lorsque Fred Rhiel a demandé à ChatGPT de lui fournir le texte complet de la plainte, le chatbot lui a soumis « une pure invention », n’ayant « aucune ressemblance avec la véritable plainte ». Après le résumé obtenu par le chatbot, le journaliste a contacté Alan Gottlieb, qui lui a confirmé que les informations de ChatGPT n’étaient pas vraies. « Les allégations de ChatGPT concernant Walters étaient fausses et malveillantes (…) tendant à nuire à la réputation de Walters et l’exposant à la haine et au mépris du public, ou au ridicule », peut-on aussi lire dans la plainte déposée par l’animateur de radio. Il demande des dommages-intérêts non spécifiés à OpenAI.
