Cet accord, trouvé vendredi après plusieurs jours de négociations, suscite déjà des critiques par le secteur de la tech.
Qu’on le veuille ou non, l’intelligence artificielle a le potentiel de changer le monde, pour le meilleur mais aussi pour le pire. L’Union européenne cherche donc à l’encadrer pour éviter les dérives. Après trois jours d’intenses discussions, les États membres et le Parlement européen sont enfin parvenus à un accord.
Des restrictions et des exceptions
Dans un communiqué, le Parlement européen résume les règles qui ont été définies ces derniers jours. Cet accord contient tout d’abord un ensemble d’interdiction, par exemple les « systèmes de catégorisation biométrique utilisant des caractéristiques sensibles (par exemple: opinions politiques, religieuses, philosophiques, orientation sexuelle, race) », « la notation sociale basée sur le comportement social ou les caractéristiques personnelles » et « l’IA utilisée pour exploiter les vulnérabilités des personnes (en raison de leur âge, de leur handicap, de leur situation sociale ou économique) ».
Le systèmes d’identification biométriques pourront cependant être utilisés « à des fins répressives, sous réserve d’une autorisation judiciaire préalable et pour des listes d’infractions strictement définies », par exemple pour localiser et identifier des personnes recherchées, que ce soit des criminels ou des personnes victimes d’enlèvement.
Un devoir de transparence
Le Parlement considérant que certains systèmes d’IA présentent des risques élevés, notamment pour influencer des élections, les entreprises devront faire preuve de transparence. Elles devront par exemple « mettre à jour la documentation technique, de se conformer à la législation de l’UE sur les droits d’auteurs et de diffuser des résumés détaillés sur le contenu utilisé pour leur formation ».
Partie intéressante de cet accord, les citoyens eux-mêmes pourront porter plainte contre des systèmes d’IA et recevoir des explications sur les décisions que ceux-ci prennent.
Toujours plus de tensions entre réglementation et innovation
Ce texte, qui doit encore être formellement approuvé par plusieurs instances européennes, peut paraître assez basique en termes de garde-fous, mais il provoque déjà une levée de boucliers dans le secteur de la tech. Les parlementaires s’attendaient vraisemblablement à de telles réactions, puisque le communiqué indique que « les députés voulaient veiller à ce que les entreprises, en particulier les PME, puissent développer des solutions d’IA sans pression excessive de la part des géants de l’industrie qui contrôlent la chaîne de valeur. À cette fin, l’accord promeut des « bacs à sable réglementaires », et des environnements réels, mis en place par les autorités nationales pour développer et tester une IA innovante avant sa mise sur le marché. »
Du côté des entreprises d’intelligence artificielle, le reproche est toujours le même : si l’Union européenne préfère s’interroger sur l’éthique alors que les États-Unis et la Chine privilégient l’innovation, les talents européens fuiront, l’UE perdra la course à l’IA et cela nuira, à terme, à la souveraineté numérique européenne.
À lire aussi
