Les entreprises utilisant ces systèmes pour leurs applications devront se plier à de nouvelles règles dès le 1er mars.
Les algorithmes sont la cible d’une volonté de régulation dans plusieurs pays. Contrairement à d’autres, la Chine n’en est plus au stade de projet car elle vient de dévoiler sa nouvelle réglementation qui entrera en vigueur le 1er mars prochain. Elle fait partie des efforts de Pékin pour réprimer l’influence de ses géants de la tech comme Alibaba ou Tencent. Ces règles vont ainsi restreindre les libertés des entreprises utilisant des algorithmes pour recommander des contenus ou des produits aux consommateurs. Elles ont été élaborées conjointement par l’Administration chinoise du cyberespace (CAC), le ministère de l’Industrie et des Technologies de l’information, le ministère de la Sécurité publique et l’Administration d’État pour la régulation du marché.
Le règlement exige de ces sociétés qu’elles offrent plus de transparence au sujet de leurs algorithmes. Elles devront par conséquent expliquer les principaux mécanismes de fonctionnement ainsi que les intentions de leurs outils de recommandation aux consommateurs.
Des règles contraignantes
Les entreprises devront en outre donner le choix aux utilisateurs de désactiver les recommandations par algorithme. Ces nouvelles règles semblent ainsi rentrer en contradiction avec de nombreux modèles économiques ou sociaux. Douyin, la version chinoise de TikTok, utilise par exemple son algorithme de recommandation pour garder ses utilisateurs constamment engagés avec des contenus adaptés à leurs goûts et intérêts. Son modèle commercial pourrait être affecté par ces exigences. Avec celles-ci, les sociétés se verront également interdire d’utiliser ou de concevoir des systèmes nuisant aux individus comme ceux qui les poussent à des dépenses excessives ou à développer une dépendance aux plateformes.
Le nouveau règlement vise d’ailleurs à lutter contre la « discrimination algorithmique », qui conduit à une tarification différenciée des produits et des services. Le CAC affirme que certaines plateformes en ligne facturent des frais supplémentaires aux consommateurs en fonction des données sur les habitudes de consommation de ces utilisateurs. Enfin, ces règles sont un moyen pour la Chine de contrôler les informations. Elles vont obliger les fournisseurs d’informations en ligne, susceptibles d’influencer l’opinion publique, à obtenir une autorisation administrative pour leurs services. Il leur sera également interdit de publier des informations ne provenant pas des sources approuvées par le gouvernement.
