Lors de la première réunion du Conseil de sécurité de l’ONU sur les menaces potentielles de l’IA, le secrétaire général a appelé à mettre en place des garde-fous contre cette technologie.
Bénéfique à bien des égards, l’intelligence artificielle (IA) peut aussi être utilisée à des fins malveillantes. Mardi, le secrétaire général de l’ONU, Antonio Guterres, a alerté sur les risques de cette technologie pour la paix et la sécurité mondiales lors de la première réunion du Conseil de sécurité des Nations unies sur le sujet. Selon lui, elle aurait des conséquences très graves pour la paix et la sécurité mondiales si elle était utilisée pour lancer des cyberattaques, générer des deepfakes ou encore diffuser de la désinformation.
« Soyons clairs : l’utilisation malveillante de système d’IA à des fins terroristes, criminelles ou étatiques pourrait causer des niveaux horribles de morts et de destructions, des traumatismes généralisés et des dommages psychologiques profonds à une échelle inimaginable », a déclaré le chef de l’ONU. De l’autre côté, Antonio Guterres a mis en avant l’utilisation de l’IA au service de la paix et de la sécurité, citant en exemple l’identification des schémas de violence et la surveillance des cessez-le-feu.
La question de la gouvernance de l’IA
Lors de cette réunion, le secrétaire général de l’ONU a également fait part de son inquiétude concernant les dysfonctionnements de ces systèmes, ajoutant que « l’interaction entre l’IA et les armes nucléaires, la biotechnologie, la neurotechnologie et la robotique est très alarmante ». Il a en outre appelé à mettre en place un instrument contraignant pour interdire les systèmes d’armes autonomes létaux fonctionnant sans contrôle ou surveillance humaine d’ici à 2026.
Évoquant le débat de la gouvernance de cette technologie, Antonio Guterres a souligné la nécessité d’une approche universelle. Face au manque de compétences en matière d’IA au sein des gouvernements et autres bureaucraties, il a réitéré son soutien à la création d’une « nouvelle entité des Nations Unies pour soutenir les efforts collectifs visant à régir cette technologie extraordinaire ». Selon le chef de l’ONU, cette entité « rassemblerait l’expertise et la mettrait à la disposition de la communauté internationale », mais elle pourrait aussi « soutenir la collaboration en matière de recherche et de développement d’outils d’intelligence artificielle afin d’accélérer le développement durable ». Il prévoit de formuler des recommandations sur la gouvernance de l’IA à l’intention des États membres dans sa prochaine note d’information sur le nouvel agenda pour la paix.
