La notation des individus à l’aide de cette technologie n’est pas conforme aux droits fondamentaux.
Imaginez qu’un jour, vous ne puissiez pas prendre un avion car votre note sociale est trop basse. C’est une réalité en Chine depuis le développement en 2014 d’un système de crédit social. Le gouvernement chinois évalue ses citoyens en fonction de leur comportement. Les « bons » sont récompensés, quand les « mauvais » sont pénalisés. Les citoyens avec une note trop basse se sont ainsi vu refuser l’accès à plus de 20 millions de billets d’avion et plus de 5 millions de billets de train à grande vitesse, comme l’a rapporté le Global Times, l’organe de presse du gouvernement, en mai 2019 – sans préciser la période de récolte des données.
Ce scenario ne prendra pas forme en Europe. Le Parlement européen a adopté une résolution le 6 octobre, afin d’interdire la notation sociale des individus par les autorités publiques à l’aide de l’intelligence artificielle (IA). Selon les eurodéputés, ce système « entraîne une perte d’autonomie, menace le principe de non-discrimination et ne peut être considérée comme conforme aux droits fondamentaux, en particulier à la dignité humaine, tels qu’énoncés dans le droit de l’Union ».
Un avis partagé par la Commission européenne
Avec cette résolution, le Parlement va dans le sens de la Commission européenne. Reconnaissant le bien fondé et les bienfaits de l’intelligence artificielle, elle a annoncé en avril dernier tout un ensemble d’actions visant à stimuler l’excellence dans ce domaine et de règles destinées à garantir la fiabilité de cette technologie. Elle a notamment classé la notation sociale comme un risque inacceptable (le plus haut niveau de risque), celle-ci représentant une menace évidente pour les citoyens de l’Union européenne (UE). La notation sociale va donc rester une fiction au sein de l’UE, à l’image de la célèbre série d’anticipation Black Mirror où l’on découvrait une femme prête à tout pour améliorer sa note afin d’avoir accès à de meilleurs services dans une société régie par la cote personnelle.
La notation sociale n’est pas le seul élément que les députés européens souhaitent interdire avec cette résolution. Ils ont également demandé un moratoire concernant le déploiement des systèmes de reconnaissance faciale à des fins répressives destinés à l’identification, estimant que cette technologie présente des risques de biais et de discrimination.
