Une résolution a été adoptée pour empêcher les forces de l’ordre d’utiliser cette technologie le temps de définir un cadre juridique précis.
La technologie de reconnaissance faciale n’est pas parfaite. Elle présente des risques de biais et de discrimination. Cela inquiète le Parlement européen qui a voté le 6 octobre pour demander « un moratoire sur le déploiement des systèmes de reconnaissance faciale à des fins répressives destinés à l’identification ». Ces systèmes commettent des erreurs d’identification et portent préjudice à des groupes ethniques minoritaires, des personnes LGBTI, des personnes âgées et des femmes. Avec ce moratoire, le Parlement européen souhaite éviter des résultats biaisés ou discriminatoires, mais aussi définir un cadre juridique avec des garanties strictes contre les utilisations abusives. L’utilisation de ces systèmes ne sera, en revanche, pas interdite pour identifier des victimes de la criminalité.
Les députés européens demandent, en outre, que l’analyse ou la reconnaissance automatisée soit interdite de façon permanente pour les caractéristiques humaines comme la démarche, les empreintes digitales ou encore l’ADN, mais aussi dans les espaces publics.
Inquiétudes concernant des utilisations de la reconnaissance faciale
Des inquiétudes ont été exprimées par le Parlement européen sur l’utilisation de bases de données privées de reconnaissance faciale par les services répressifs comme la police et par les services de renseignement. Il cite notamment l’exemple de Clearview AI. Cette entreprise américaine fait l’objet de controverses car sa base de données est composée de plus de trois milliards d’images collectées sur les réseaux sociaux sans le consentement des personnes concernées. Il indique par ailleurs qu’il est possible que l’utilisation d’un tel service ne soit pas compatible avec le règlement général sur la protection des données, qui encadre le traitement des données personnelles dans l’Union européenne.
Les députés européens s’inquiètent aussi concernant les projets de recherche, comme iBorderCtrl, développés dans le cadre du programme européen Horizon 2020 dédié à la recherche et l’innovation. Testé en Hongrie, en Lettonie et en Grèce, ce projet est un « système de détection de mensonges ». Il établit le profil des voyageurs en se basant sur un entretien automatisé effectué par webcam avant le voyage et sur l’analyse de 38 micro-gestes fondée sur l’intelligence artificielle.
S’agissant d’une résolution, le vote du Parlement européen ne présente pas de contrainte juridique, mais il permet de voir son positionnement par rapport aux nouvelles règles concernant l’intelligence artificielle présentées en avril dernier par la Commission européenne.
