Laurence Devillers : « Les citoyens n’ont pas compris les enjeux sociétaux, économiques et écologiques du numérique et de l’IA »

Pourquoi publiez-vous ce manifeste maintenant ?

Je publie ce manifeste parce que nous allons rentrer dans l’actualité présidentielle pour l’élection de 2022 et que le numérique et l’intelligence artificielle (IA), qui sont deux sujets qui inondent toutes les applications dans la société, ne sont pas du tout discutés par les futurs candidats. En tout cas, ils ne le sont pas pour l’instant.

Les candidats suivent ce que les citoyens ont comme interrogations majeures et cela montre que les citoyens n’ont pas compris les enjeux sociétaux, économiques et écologiques du numérique et de l’intelligence artificielle. Ces mondes sont assez invisibles. Le numérique et l’intelligence artificielle ne sont pas des choses que l’on voit, ce sont des logiciels qui tournent sur des serveurs à distance qu’on ne voit pas. Les citoyens ne s’en inquiètent pas, ils n’ont que le résultat sur leurs portables ou sur un ordinateur, mais ils ne se rendent pas compte, en fait, de la puissance nécessaire à ces machines pour calculer, pour répondre, pour percevoir, pour détecter. Il me semble qu’il est important de faire monter cette compréhension, de démystifier l’opacité de ces machines « calculantes » qui ne raisonnent pas comme nous à partir de mots et malgré tout, nous parlent et apprennent à nous imiter. De façon naturelle, nous projetons sur ces systèmes des capacités humaines sans les comprendre.

Alors que les technologies sont de plus en plus présentes et complexes dans la société, comment procéder pour que les Français les comprennent ?

Il est essentiel, effectivement, d’arriver à expliquer cette complexité sans trop la simplifier. L’expérimentation est sans doute la meilleure façon de pousser la compréhension sur ces sujets. Il ne s’agit pas de comprendre l’algorithme ou la modélisation en elle-même, mais d’interagir avec, de l’utiliser et de l’utiliser avec une aide. Nous devrions concevoir des batteries de tests à faire passer à ces systèmes pour que l’on comprenne mieux à quoi ils servent, quelles sont leurs limites, ce en quoi ils savent répondre, ce en quoi ils ne savent pas répondre. Ce serait un peu comme un terrain de jeu d’expérimentation autour de différents objets. A l’école, les enfants pourraient expérimenter de tels outils d’IA comme un agent conversationnel, la reconnaissance faciale, ou encore la traduction de la parole.

Il faut expérimenter dans un cadre donné un certain nombre de limites du logiciel. À l’arrivée en France de l’enceinte Google Home, j’avais testé la prise en compte des émotions ne connaissant pas les capacités du système. Répétant plusieurs fois « je suis triste », pour tester les réponses, j’avais fini par obtenir une répétition de la même réponse du système ! Autre constat : alors que la machine m’avait proposé « si j’avais des bras, je vous prendrais dans les bras », ce à quoi j’avais répondu « d’accord pour les bras », la réponse n’avait pas manqué de me faire sourire : « Des Bras en Plus, déménageurs à côté de chez vous », montrant une capacité essentielle de cette enceinte : nous localiser et nous proposer des sites marchands. Avec les dernières technologies en traitement du langage, ces systèmes vont encore évoluer et tendre à brouiller de plus en plus la frontière perçue entre les êtres humains et les machines.

Pour apprendre à démystifier les machines ou à comprendre comment elles fonctionnent quand on n’a pas de notice et qu’on ne peut pas se plonger dans le code, il est nécessaire de les challenger. Pour tous les métiers utilisant des IA, il sera nécessaire d’apprendre à faire confiance, mais aussi à douter des propositions des machines.

Pouvez-vous revenir sur l’aspect urgent sur lequel vous insistez dans vos cinq constats sur le numérique et l’intelligence artificielle ?

Les 5 constats sont notamment la transformation de nos vies, l’accélération de cette transformation, la manipulation, la surveillance de masse, la dépense écologique. Il y a une urgence car il y a des injustices notables qui ne sont pas forcément toujours vues. On parle de la discrimination des IA quand le corpus servant à l’apprentissage du modèle n’a bien été calibré. C’est une chose, mais une autre, par exemple, est le fait que toutes les technologies de la langue sont mises en œuvre majoritairement en langue anglaise. Pourtant, la langue porte la culture et la démocratie. C’est également un enjeu industriel de souveraineté économique. L’Union européenne est forte de sa variété et de la variété de ses langues, et met en avant son plurilinguisme. Mais certaines langues vont-elles disparaître ? Le français est également sous-doté par rapport à l’anglais ou même l’allemand. Il est nécessaire de collecter des données à grande échelle pour préserver notre identité et souveraineté européenne et de développer des systèmes dans toutes les langues. L’Europe doit porter un effort majeur en R&D dans les technologies de la langue pour éviter un monopole des technologies en anglais.

Que pensez-vous des annonces du gouvernement de sensibiliser les élèves aux usages du numérique et à son impact environnemental ?

Je pense que c’est excellent. Je répète aussi, dans ce manifeste, l’importance de prendre en compte le numérique dans toute sa globalité. Le numérique nous sert à quantifier et va nous servir à faire des efforts pour consommer moins d’énergie et sûrement pour améliorer, finalement, la prise en compte de l’écologie. Mais, en même temps, ces systèmes dépensent de l’énergie eux-mêmes. Pour faire de l’apprentissage machine, nous avons besoin de beaucoup de données qu’il faut stocker dans des centres de données. Demain, les metaverses seront très gourmands en données et en puissance de calcul. D’un côté, le numérique va permettre de faire des économies en rationalisant la dépense et de l’autre, il sera également consommateur d’énergie. Il est important que nous éduquions les enfants sur le numérique avec cette idée de la dépense liée au numérique. Il y a une urgence de changement dans l’éducation. Il faut garder les apprentissages fondamentaux que sont les mathématiques, le français et sûrement l’histoire comme un commun pour tous. Nous voyons une chute drastique du niveau en mathématiques en ce moment. Les plateformes et outils numériques permettent aussi de travailler sur les fondamentaux dans tous les domaines.

Il est possible de faire de la « low-tech » avec de la « high-tech » comme pour l’agriculture, c’est à dire une agriculture « green » sans pesticides et engrais, gérée par des outils high-tech optimisant les semences et les récoltes à partir de connaissances en agronomie et des contrôles sur les plantes cultivées, le terrain et le climat. L’agriculteur peut ainsi s’occuper des tâches les plus élevées, en utilisant des outils high-tech (robots, outils d’optimisation) pour gérer au mieux cette multiplicité des contextes et des variables qu’il faut gérer dans une ferme.

Que pensez-vous du laboratoire lancé par le gouvernement pour étudier l’impact de l’intelligence artificielle sur le travail ?

Ce laboratoire, lancé pour 5 ans, vient d’un accord entre le ministère du travail et l’INRIA et sera opéré par l’institut d’innovation Matrice. Il est aussi lié au PMIA (partenariat mondial pour l’IA) dans lequel je suis impliquée avec un groupe sur le futur du travail et sur l’interaction humain-machine. Il est nécessaire de préserver 3 grandes dimensions pour les humains : le mérite, la responsabilité et la créativité. Le PMIA est composé d’un ensemble d’experts venant de différents disciplines, d’industriels et d’académiques. Nous avons réalisé des collectes de données sur le travail pour différents métiers avec des technologies du numérique dans tous les pays impliqués. L’idée est de créer une plateforme virtuelle avec plusieurs laboratoires dans plusieurs pays qui vont communiquer leurs résultats. Je pense que c’est une excellente initiative qu’il faudra renforcer au fur et à mesure des années avec des expériences, des résultats et un partage des connaissances.

En conclusion, le numérique et l’IA bouleversent le quotidien et promettent des miracles pour l’avenir. Nous avons besoin d’une vision à long terme, d’anticipation sur le déploiement du numérique et de l’IA en France et en Europe, et de régulation, de cybersécurité et de formations. Quels sont les programmes des candidats sur le déploiement de l’IA et du numérique en France et en Europe ?

Vague IA à l’Élysée, Manifeste pour la présidentielle 2022, Laurence Devillers, Éditions de l’Observatoire, 4,99€.