Sorti en octobre, le dernier livre d’Aurélie Jean, Les Algorithmes font-ils la loi ?, explique pourquoi il est nécessaire de comprendre le fonctionnement de ces systèmes, mais aussi d’encadrer leur développement.
Ils permettent de classer des contenus sur les sites et les plateformes, d’en recommander aux utilisateurs ou encore d’aider les entreprises dans le processus de recrutement. Ils, ce sont les algorithmes. Ces systèmes sont surtout évoqués lorsque l’on parle du Web et des réseaux sociaux. Au cœur de plusieurs scandales – à l’image des Facebook Files – on leur attribue souvent, voire toujours le mauvais rôle, suggérant qu’ils font la pluie et le beau temps et qu’ils exercent un certain pouvoir sur les êtres humains. Ils suscitent de l’inquiétude dans de nombreux pays, d’autant plus que leur fonctionnement reste pour beaucoup un mystère. Plusieurs projets de régulation ont ainsi vu le jour, en Chine ou au sein de l’Union européenne, afin, notamment, d’imposer la transparence à leurs concepteurs.
La question du pouvoir des algorithmes est au cœur du dernier ouvrage d’Aurélie Jean. Docteure en sciences numériques et entrepreneure à succès, l’autrice aborde le sujet en partant d’une simple question : « Les algorithmes font-ils la loi ? » Nous avons pu échanger avec elle autour de cette vaste question qui inquiète autant qu’elle divise.
Pourquoi insistez-vous sur le fait que les algorithmes ne sont responsables de rien ?
Les algorithmes n’ayant aucune personnalité juridique (morale ou physique), ils ne peuvent pas être légalement responsables des fautes et des crimes dont on les accuse. En revanche, ce sont tous les individus – comme personnes physiques – et les organisations – comme personnes morales – qui interagissent avec la conception, le développement, la vente et l’utilisation de ces algorithmes, qui sont potentiellement responsables. Ce point est important à souligner et à répéter, au risque de chercher un coupable qui ne serait finalement qu’un bouc-émissaire sans véritablement résoudre le problème en question. Après tout, une fois que vous avez dit que l’algorithme est coupable, que faites-vous ensuite ?
Pourquoi est-il nécessaire de développer des bonnes pratiques, comme les tests, de la conception à l’utilisation des algorithmes ?
Une grande majorité des erreurs et des fautes à l’origine de nombreux scandales de ces dernières années auraient pu être évitées grâce à de bonnes pratiques de conception, de développement, de test et d’usage de ces algorithmes. On peut citer l’algorithme test de recrutement d’Amazon qui écartait les CV de femmes, l’algorithme de Goldman Sachs, utilisé dans l’application d’Apple Card, qui donnait des lignes de crédit bien inférieures aux femmes, ou encore l’algorithme de suggestion de vidéos de Facebook qui recommandait des vidéos de singes à la suite de vidéos contenant des personnes de couleur.
Tester massivement les algorithmes, calculer au mieux leur explicabilité ou travailler main dans la main avec des gens du métier d’application de l’algorithme (comme travailler avec les RH pour un algorithme appliqué au recrutement) font partie de ces bonnes pratiques.
Pouvez-vous revenir sur l’importance de l’éthique, notamment avec le concept de l’ethics by design ?
Dans mon livre, je parle surtout de l’explainability by design, qui consiste à développer un algorithme en intégrant dès la première phase de conception le calcul d’explicabilité [l’explicabilité algorithmique regroupe l’ensemble des méthodes de calcul qui extraient une partie ou la totalité du fonctionnement logique de l’algorithme, ndlr]. L’ethics by design, quant à lui, consiste à intégrer des principes éthiques dès la première phase de conception, en commençant par s’interroger sur la formulation du problème que l’on souhaite résoudre, voire l’importance du problème lui-même. L’éthique est un sujet qui touche tout le monde, du propriétaire de l’algorithme à l’utilisateur.
Pouvez-vous revenir sur l’influence des algorithmes sur la loi ?
Sans faire la loi, les algorithmes influencent la loi de manière directe en étant utilisés dans la pratique judiciaire (justice et police), ou indirectement par la remise en question, voire la violation de textes de loi, comme ceux en lien avec la discrimination, par exemple. Ils peuvent aussi faire indirectement la loi par la manipulation et l’orientation des opinions sur les réseaux sociaux, par exemple, pilotés par des êtres humains à leur profit (comme dans le cas de campagnes électorales).
Pourquoi faut-il que les lois, pour encadrer le développement et les usages des algorithmes, soient souples et anticipatrices, sans freiner l’innovation ?
De manière générale, les articles de lois doivent être conçus pour durer dans le temps. En cela, ils doivent être suffisamment implicites pour s’adapter aux évolutions sociales et technologiques. Cela étant dit, on est souvent amenés à ajouter des amendements à des lois existantes ou à écrire de nouvelles lois. Mais lors de l’écriture des textes, les législateurs réfléchissent à rendre la loi plus souple. Dans le cas des algorithmes et des technologies en général, la loi doit agir comme une protection des individus sans freiner l’innovation inutilement. Dans le cas contraire, la société pourrait passer à côté d’inventions et de créations pourtant bénéfiques pour l’humanité. L’équilibre est parfois difficile à atteindre, mais il y a des erreurs à ne pas commettre. C’est pourquoi une collaboration étroite entre le législateur et le scientifique ou l’ingénieur doit exister, pour pouvoir construire des lois efficaces et pragmatiques.
Les Algorithmes font-ils la loi ?, Aurélie Jean, Éditions de l’Observatoire, 221 p., 20 €.
Lire aussi
