Elle serait capable d’inculper des individus pour certains crimes avec une exactitude estimée à plus de 97%.
Une machine capable d’envoyer des personnes en prison. Ce scénario pourrait bientôt être une réalité en Chine. Des chercheurs ont en effet créé une intelligence artificielle (IA) qui peut accuser des personnes de crimes. Selon le quotidien hongkongais South China Morning Post, elle est actuellement testée par le Parquet populaire de Shanghai Pudong, le plus grand bureau du procureur de district de Chine. En se basant sur la description verbale d’une affaire, elle serait à même de porter une accusation avec une précision de plus de 97%.
Pour y parvenir, le système a été entraîné sur plus de 17 000 dossiers entre 2015 à 2020. Il pourrait désormais identifier et porter plainte pour les huit crimes les plus courants à Shanghai : la fraude par carte de crédit, les jeux d’argent, la conduite dangereuse, les blessures volontaires, l’entrave aux fonctions officielles, le vol, la fraude et la dissidence politique. Conçue pour réduire la charge de travail des procureurs, les chercheurs qui en sont à l’origine espèrent que leur IA sera bientôt en mesure de reconnaître plus de crimes.
Une machine aux capacités inquiétantes
Bien que cette machine soit une première mondiale, ce n’est pas la première à aider les procureurs chinois dans leur travail. D’après le South China Morning Post, l’équipe de chercheurs l’a développée en se basant sur un outil d’IA existant dénommé Système 206. Capable d’évaluer les preuves et de déterminer à quel point un suspect pourrait être dangereux pour le grand public, il serait déjà utilisé par les officiers de justice du pays. Il n’a cependant pas été conçu pour participer au processus décisionnel consistant à porter des accusations et à suggérer des peines de prison. Pour cela, il faudrait que ce système soit capable d’identifier et de supprimer les informations impertinentes dans une affaire, mais aussi de traiter le langage humain.
La nouvelle IA mise au point par les chercheurs pourrait justement participer à ce processus. Ses concepteurs affirment même qu’elle a la capacité de remplacer les procureurs « dans une certaine mesure ». Ce pouvoir suscite de nombreuses inquiétudes. Un procureur interrogé par le quotidien hongkongais a par exemple indiqué que le risque d’erreur était toujours présent, même si la précision du système est estimée à 97%. Il a par ailleurs posé une question qui revient souvent sur le tapis avec l’intelligence artificielle, à savoir celle de la responsabilité quand la machine commet une erreur. Entre le procureur, la machine ou ses concepteurs, il est en effet difficile d’estimer qui sera jugé responsable.
