À l’occasion du premier sommet mondial sur la sécurité de l’IA, une trentaine de pays, dont les États-Unis, la Chine et l’Union européenne ont signé une déclaration pour un développement « sûr » de cette technologie.
Déployée dans de nombreux domaines, l’intelligence artificielle (IA) continue d’inquiéter. Dans le cadre du premier sommet mondial sur la sécurité de cette technologie – qui se tient au Royaume-Uni – la Chine, les États-Unis et l’Union européenne, ainsi qu’une vingtaine d’autres pays, ont signé la déclaration de Bletchley pour un développement « sûr » de l’IA.
« De nombreux risques liés à l’IA sont intrinsèquement de nature internationale et il est donc préférable de les gérer par la coopération internationale. Nous sommes résolus à travailler ensemble de manière inclusive pour garantir une IA centrée sur l’humain, fiable et responsable, sûre et qui soutient le bien de tous », ont-ils déclaré. Selon eux, « les pays devraient considérer l’importance d’une approche de gouvernance et de réglementation favorable à l’innovation et proportionnée, qui maximise les avantages et tienne compte des risques associés à l’IA ».
Comprendre les risques potentiels de l’IA
Considérant que l’IA présente d’énormes opportunités, les pays signataires sont préoccupés par ses risques. Ils estiment nécessaire de concevoir, développer, déployer et utiliser cette technologie de manière sûre afin qu’elle puisse « transformer et améliorer le bien-être, la paix et la prospérité humaine ».
Ils s’inquiètent particulièrement des risques des systèmes d’avant-garde, soit « les modèles d’IA à usage général hautement performants » comme GPT-4, qui alimente le célèbre robot conversationnel ChatGPT. « Des risques substantiels peuvent découler d’une utilisation abusive intentionnelle potentielle ou de problèmes de contrôle involontaires liés à l’alignement avec l’intention humaine. Ces problèmes sont en partie dus au fait que ces capacités ne sont pas entièrement comprises et sont donc difficiles à prévoir », indique la déclaration.
Les signataires évoquent notamment les dangers de l’IA dans les domaines de la cybersécurité et de la biotechnologie, également mentionnés récemment par OpenAI, qui vient de monter une équipe chargée de lutter contre les « risques catastrophiques » de cette technologie. « Compte tenu du rythme rapide et incertain de l’évolution de l’IA et dans le contexte de l’accélération des investissements dans la technologie, nous affirmons qu’il est particulièrement urgent d’approfondir notre compréhension de ces risques potentiels et des actions pour y faire face », ont déclaré les signataires. La France, qui en fait aussi partie, accueillera d’ailleurs le prochain sommet mondial l’année prochaine. Préalablement, la Corée du Sud proposera un sommet virtuel sur le sujet dans les six prochains mois.
Alors que plusieurs personnalités du secteur et responsables politiques s’inquiètent des risques de l’IA, d’autres appellent à adopter une approche plus ouverte du développement de cette technologie. Dans une lettre publiée par Mozilla mardi, plus de 70 signataires, dont Yann LeCun, scientifique en chef pour l’IA chez Meta, estiment que « l’idée selon laquelle un contrôle strict et exclusif des modèles d’IA de fondation est le seul moyen de nous protéger des dommages à l’échelle de la société est au mieux naïve, au pire dangereuse ». « Si nos objectifs sont la sûreté, la sécurité et la responsabilité, alors l’ouverture et la transparence sont des ingrédients essentiels pour y parvenir », ont-ils affirmé.
