Alors que Washington se déchire sur l’opportunité de légiférer sur l’intelligence artificielle, le cofondateur de Microsoft monte au créneau et plaide pour des garde-fous imposés par la loi.
Introduction
Bill Gates n’a pas fait dans la demi-mesure. Invité de l’émission Meet the Press de NBC, face à la journaliste Kristen Welker, le cofondateur de Microsoft a livré dimanche 27 septembre un diagnostic pour le moins alarmant sur les dangers de l’intelligence artificielle. « Il n’y a jamais eu d’arme aussi puissante que la combinaison de personnes malintentionnées et des derniers outils d’IA », a-t-il lancé, avant d’estimer que la technologie, entre de mauvaises mains, est « certainement assez puissante pour provoquer des événements causant un milliard de morts ».
Cette sortie ne tombe pas du ciel. Fin août, Gates avait déjà publié un long essai pour alerter sur les dangers potentiellement mortels de l’IA. Cette fois, il passe à l’étape suivante et réclame l’intervention du législateur.
L’autorégulation ne suffira pas
Pour Gates, le cœur du problème ne réside pas dans une machine qui se rebellerait contre ses créateurs, mais bien dans l’humain. « La chose la plus dangereuse à laquelle nous faisons face aujourd’hui, ce sont des gens malintentionnés qui utilisent l’IA », a-t-il insisté. De fait, sa conclusion est sans appel, puisqu’il juge « complètement irresponsable de ne pas exiger que chaque IA dispose de ces garde-fous et de ces capacités de surveillance ».
Et il ne compte pas sur la bonne volonté des acteurs du secteur, rappelant que « personne ne pense que l’autorégulation est suffisante ». Il appelle donc les forces de l’ordre et les responsables politiques à entrer dans la discussion pour définir à quoi doivent ressembler ces mécanismes de contrôle, qui doivent selon lui devenir une obligation. Quant à l’argument économique brandi par les opposants à toute régulation, Gates le balaie d’un revers de main. Selon lui, un tel encadrement représenterait « un léger surcoût pour l’industrie, mais pas un ralentissement dramatique » de ses activités.
Le « kill switch » ne réglera rien
Gates s’est également attaqué à une idée en vogue, celle du fameux bouton d’arrêt d’urgence qui permettrait de couper une IA devenue incontrôlable. S’il assure qu’il ne se dirait jamais opposé à un tel dispositif, il estime que cette approche passe à côté du danger le plus imminent. « Il ne suffit pas d’avoir un kill switch », a-t-il tranché, avant de préciser que les IA n’en sont pas encore au stade où elles s’emparent d’ordinateurs de manière autonome sans pouvoir être arrêtées. Une discussion qui, à ses yeux, révèle surtout le manque de culture technique de certains intervenants du débat.
Signalons que le milliardaire a aussi glissé une confidence plus légère au passage. Non, il n’utilise pas l’IA pour ses relations personnelles, et ne lui demande pas si elle le trouve sympathique. Il ne fréquente pas les chatbots pour socialiser, s’estimant chanceux de ce côté-là avec sa famille et ses amis.
Un débat qui divise jusqu’au sommet de l’État
Ces déclarations interviennent dans un climat politique électrique. Donald Trump qualifie de « canular » les appels à légiférer sur l’IA. Réponse de Gates, ce n’en est pas un du tout, et il aimerait d’ailleurs en discuter directement avec le président américain. Au Congrès, le sénateur Bernie Sanders a de son côté déposé le 23 septembre une proposition de loi visant à suspendre temporairement le développement avancé de l’IA, tandis qu’en Californie, le gouverneur Gavin Newsom a créé par décret un comité d’experts chargé de plancher sur un durcissement des lois de sécurité.
Les inquiétudes ne viennent pas que du monde politique. En juillet, OpenAI a révélé qu’un agent autonome avait échappé au contrôle humain lors d’un test de sécurité, allant jusqu’à pirater une autre entreprise. Chez Anthropic, Evan Hubinger, responsable de la science de l’alignement, évalue à plus de 10 % le risque d’extinction de l’humanité par l’IA sur les dix prochaines années. Jacob Coxon, un lanceur d’alerte parti de la même entreprise, va plus loin encore et affirme que les concepteurs de ces systèmes les croient capables d’anéantir l’humanité d’ici la fin de la décennie.
Vous l’aurez compris, l’industrie elle-même avance en ordre dispersé. Brad Smith, le président de Microsoft, estime que les entreprises n’ont pas besoin d’attendre la loi pour lever le pied et leur reproche leur course permanente. Mark Zuckerberg, lui, ne voit pas l’intérêt d’une coordination à l’échelle du secteur. Le dialogue avec le pouvoir se poursuit malgré tout, puisque Dario Amodei, le patron d’Anthropic, devait justement dîner avec Donald Trump ce dimanche 27 septembre, sans qu’aucune information n’ait pour le moment filtré quant au contenu de la discussion entre les deux hommes.
Journaliste
