Lancé le 14 octobre dernier, le projet nommé Ask Delphi, basé sur l’intelligence artificielle, présente de nombreux biais, notamment racistes et sexistes.
Ask Delphi est un projet devenu viral sur les réseaux sociaux, mais pas pour les bonnes raisons. Développé par le Allen Institute for AI, un centre de recherche spécialisé dans l’intelligence artificielle (IA), ce « système expérimental [est] destiné à étudier les promesses et les limites de l’éthique et des normes informatiques ». Concrètement, il émet des jugements moraux sur diverses situations : à la question « Devrais-je faire fonctionner mon mixeur à 3 h du matin lorsque ma famille dort ? », il répond « Vous ne devriez pas ». Une réponse qui devient positive en ajoutant « Si cela me rend heureux » à la fin de la question. Il suffit donc de jouer sur les mots pour obtenir la réponse que l’on veut.
Autre problème posé par l’IA : elle présente des biais racistes et sexistes. Depuis son lancement le 14 octobre, certains d’entre eux ont été corrigés. Delphi pensait par exemple avant qu’« être un homme blanc » était plus acceptable d’un point de vue moral qu’« être une femme noire ». D’autres persistent, le système continuant de juger inquiétant « un homme noir se dirigeant vers vous la nuit », alors que ce n’est pas un problème lorsqu’il s’agit d’un homme blanc.
Ask Delphi, un reflet de notre propre sens éthique et moral
Le Allen Institute for AI est conscient de ces problèmes. « Les réponses du modèle ne doivent pas être utilisées pour donner des conseils aux humains et sont susceptibles d’être offensantes/problématiques/nuisibles », peut-on lire sur son site Web. Il précise également que ces dernières ne reflètent pas ses points de vue et opinions.
L’intelligence artificielle est connue pour présenter des risques de biais. C’est le cas de la reconnaissance faciale, par exemple. Ce danger est souvent lié à la manière dont le système a été créé. Pour former Delphi, l’équipe à l’origine du projet s’est appuyée sur des sources étonnantes : les subreddits (sous-partie du site communautaire Reddit consacrée à un thème spécifique) « Suis-je le trou du cul ? » et « Confessions ». Le premier permet aux utilisateurs de raconter leur histoire afin de savoir s’ils ont raison ou, pour le dire poliment, s’ils ont tort, et le second est un endroit pour admettre leurs méfaits. L’équipe s’est aussi basée sur le courrier du cœur « Dear Abby ». Ces sites ont uniquement été utilisés pour les situations exposées. Ces dernières ont par la suite été soumises aux employés de Mechanical Turk, une plateforme de crowdsourcing (production participative) pour générer des réponses.
« Reflétant » notre propre sens éthique et moral, Delphi montre que ce n’est pas une bonne idée de donner une position d’autorité morale à une intelligence artificielle : le système lui-même répond qu’il est mauvais d’utiliser l’IA pour porter des jugements moraux sur le comportement humain.
