Publié sur un blog chinois, le faux article concernant un accident de train aurait été lu par plus de 15 000 personnes lorsqu’il a attiré l’attention des autorités.
Officiellement, ChatGPT est interdit en Chine. Des Chinois parviennent pourtant à y accéder grâce à un VPN, qui permet de masquer l’endroit d’où l’on se connecte. Un homme du nom de Hong aurait ainsi utilisé le célèbre chatbot pour générer de fausses informations et les diffuser en ligne, ce qui lui a valu d’être arrêté par la police chinoise, rapporte le South China Morning Post.
Plus précisément, la police de la province du Gansu, dans le nord-ouest de la Chine, l’accuse d’« avoir utilisé la technologie de l’intelligence artificielle pour concocter des informations fausses et erronées ». Cela, après que la cyberdivision d’un bureau de police du comté a repéré un faux article de presse affirmant que neuf personnes ont été tuées dans un accident de train le 25 avril. Publié simultanément par plus de 20 comptes sur Baijiahao, un blog géré par le géant chinois Baidu, il aurait été lu par plus de 15 000 personnes au moment où il a été porté à l’attention des autorités.
Un crime passible de dix ans d’emprisonnement
Dans un communiqué obtenu par le journal, la police indique avoir retracé l’origine de l’article jusqu’à une société appartenant à Hong. Dix jours plus tard, une équipe a fouillé son domicile et son ordinateur, et il a été arrêté. La police affirme aussi que Hong a reconnu les faits. Il aurait transmis des éléments d’anciens faits divers en vogue en Chine à ChatGPT pour produire rapidement différentes versions de la même fausse histoire et les aurait téléchargées sur ses comptes Baijihao, enfreignant les règles du blog en les publiant plusieurs fois.
Hong est accusé d’avoir « provoqué des querelles et des troubles », un délit normalement passible d’une peine maximale de cinq ans et de dix ans dans les cas jugés particulièrement graves. En 2013, il a été étendu aux personnes qui publieraient et diffuseraient de fausses informations ou rumeurs en ligne.
L’arrestation de Hong est la première liée à ChatGPT rendue publique depuis l’entrée en vigueur de mesures réglementant l’utilisation des deepfakes en janvier en Chine. Ces règles s’appliquent aussi à la génération artificielle de textes, d’images, d’audio, de vidéos et de scénarios virtuels. Alors que plusieurs entreprises chinoises travaillent sur leurs propres versions du chatbot d’OpenAI, le pays cherche également à encadrer l’IA, avec un projet de loi qui obligerait les contenus générés artificiellement à « refléter les valeurs socialistes fondamentales » et ne pas « contenir [d’éléments relatifs] à la subversion du pouvoir de l’État ».
