Une vingtaine d’experts de l’intelligence artificielle, dont Geoffrey Hinton et Yoshua Bengio, appellent les gouvernements à agir face aux risques de cette technologie.
Les risques posés par l’intelligence artificielle (IA) inquiètent de nombreuses personnes, y compris les « parrains » de cette technologie. Geoffrey Hinton, qui a quitté son poste chez Google plus tôt cette année pour alerter sur les dangers de l’IA, et Yoshua Bengio, professeur d’informatique à l’Université de Montréal, font partie de la vingtaine d’experts appelant les gouvernements à agir face à ces dangers.
« Les systèmes d’IA pourraient rapidement surpasser les humains dans un nombre croissant de tâches. Si de tels systèmes ne sont pas soigneusement conçus et déployés, ils présentent tout une série de risques à l’échelle sociétale. Ils menacent d’amplifier l’injustice sociale, d’éroder la stabilité sociale et d’affaiblir notre compréhension commune de la réalité qui est fondamentale à la société. Ils pourraient également permettre des activités criminelles ou terroristes à grande échelle », alertent-ils.
Faire preuve de prudence
Selon les experts, plusieurs de ces dangers pourraient bientôt être amplifiés et d’autres créés avec le développement de systèmes autonomes capables de planifier, d’agir dans le monde et de poursuivre des objectifs. « Même si les systèmes d’IA actuels ont une autonomie limitée, des travaux sont en cours pour changer cette situation », mettent-ils en garde, citant le modèle GPT-4 d’OpenAI en exemple. Alimentant ChatGPT, il est capable de naviguer sur le web, concevoir et réaliser des expériences de chimie, et utiliser des outils logiciels, dont d’autres modèles d’IA.
Estimant essentiel de remédier aux préjudices existants, comme la désinformation et la discrimination, et d’anticiper les risques émergents, les experts appellent les gouvernements à prendre des mesures et notamment, à tenir les entreprises pour responsables légalement des dommages causés par leurs modèles. « Sans suffisamment de prudence, nous pourrions perdre de manière irréversible le contrôle des systèmes d’IA autonomes, rendant ainsi l’intervention humaine inefficace (…) Ces progrès incontrôlés de l’IA pourraient aboutir à une perte de vies humaines et de la biosphère à grande échelle, ainsi qu’à la marginalisation, voire à l’extinction de l’humanité », avertissent-ils.
Ils appellent également les grandes entreprises de la tech et les bailleurs de fonds publics à consacrer au moins un tiers de leur budget recherche et développement en IA à la garantie de la sécurité et de l’utilisation éthique. Leur mise en garde intervient une semaine avant le premier sommet mondial sur l’IA qui se tiendra au Royaume-Uni, auquel Geoffrey Hinton et Yoshua Bengio devraient assister. À noter que ce n’est pas la première fois qu’ils tirent la sonnette d’alarme concernant les dangers de l’IA. Le premier fait partie des centaines d’experts ayant alerté sur la menace existentielle que cette technologie représente pour l’humanité fin mai tandis que le second est l’un des signataires de la lettre appelant à faire une pause dans son développement fin mars.
À lire aussi
