Plusieurs initiatives basées sur cette technologie existent aujourd’hui, visant à prévenir ou détecter le harcèlement scolaire et en ligne.
Fin septembre, le gouvernement a présenté son plan de lutte contre le harcèlement scolaire et le cyberharcèlement, faisant notamment du 3018 – numéro national contre les violences numériques – l’unique numéro de signalement. Pourtant, d’autres initiatives existent, dont certaines sont basées sur l’intelligence artificielle (IA).
Entre prévention…
Cathy est l’une de ces solutions. Il s’agit d’un chatbot conçu « pour mieux comprendre et lutter contre le harcèlement scolaire ». « Ma mission est de vous donner : des informations sur le harcèlement scolaire, des conseils pour repérer des situations de harcèlement, des ressources pour en parler, des astuces pour lutter contre une situation de harcèlement », indique Cathy.
Ce robot conversationnel a été créé par une ancienne enseignante qui a elle-même été confrontée à des situations de harcèlement, Lydie Catalano, et une psychologue, Catherine Verdier. Objectif : fournir un outil aux victimes, aux témoins, aux parents et à la communauté éducative avec un maximum d’informations. Il offre ainsi du contenu personnalisé (livres, vidéos…) selon les besoins de l’utilisateur·rice. Depuis le 28 septembre, Cathy existe sous deux versions : « un arbre de décision qui vous permet de découvrir des ressources en fonction de vos clics » et « une version “compagnon” qui permet de poser toutes les questions », précise Lydie Catalano. Contrairement à la première, cette nouvelle version s’adresse aussi aux parents qui soupçonnent leur enfant d’être un harceleur ou une harceleuse.
Dans les deux cas, l’utilisation de Cathy est gratuite, le but étant de prévenir le harcèlement scolaire qui « commence souvent dans la vie réelle », rappelle l’ancienne enseignante. En proposant des ressources pour aider les victimes de harcèlement, Cathy est similaire à un service existant : l’application 3018. Elle permet aux enfants de signaler des situations de cyberharcèlement et propose un accès rapide à des fiches pratiques pour qu’ils et elles puissent s’informer sur leurs droits et la manière de réagir.
« La différence, c’est que nous ne sommes pas une application donc vous n’avez pas besoin de la télécharger, assure sa cocréatrice. L’objectif, c’était vraiment d’avoir un outil supplémentaire auquel il était très facile d’accéder, sans avoir besoin, justement, de télécharger ou de rentrer de la donnée personnelle. On avait peur que ce soit une barrière à l’entrée », précise-t-elle, ajoutant que Cathy fait la promotion du 3018.
… et détection
Outre la prévention, l’IA aide aussi à lutter contre le harcèlement en détectant des contenus toxiques en ligne. Depuis quelques années, Elena Cabrio et Serena Villata, deux chercheuses de l’Université Côte d’Azur, travaillent sur un projet plurinational (français, allemand et italien) baptisé Creep (pour Cyberbullying Effects Prevention). Il s’agit d’un logiciel capable de détecter les échanges sur les réseaux sociaux qui constituent du harcèlement en ligne. Pour y parvenir, il analyse des millions de messages.
Concrètement, sur un écran d’ordinateur, la modélisation des échanges sur ces plateformes dessine de fines trajectoires qui se transforment en bouquets de points lumineux. Cela permet à l’IA de repérer les comptes vers lesquels se concentrent le plus de messages et qui génèrent proportionnellement peu de réponses. CREEP a déjà été testé dans plusieurs écoles en Italie, avec des élèves jouant les harceleur·se·s et d’autres les harcelé·e·s.
Si les résultats ont été bons, « il reste encore pas mal de travail à faire », a reconnu Elena Cabrio l’année dernière. Le logiciel n’est, par exemple, pas encore capable de détecter les messages comprenant des métaphores ou implicites comme étant des messages de haine. À terme, l’objectif est que ce logiciel soit aussi capable d’analyser les images contribuant au harcèlement, mais aussi qu’il fonctionne avec d’autres langues que l’italien et l’anglais, qui ont été pris en compte au début du projet.
Une technologie au service des harceleurs et harceleuses
L’IA peut aider à lutter contre le harcèlement, mais elle peut aussi être utile aux harceleur·se·s. À Almendralejo, ville dans le sud-ouest de l’Espagne, une trentaine de jeunes filles ont récemment été victimes de cyberharcèlement avec cette technologie. Une IA a en effet été utilisée pour générer des clichés d’elles dénudées à partir de photos où elles sont entièrement habillées. Ces photos ont ensuite circulé sur les portables des collégien·ne·s de la ville. « J’étais inquiète, parce que l’image est extrêmement réaliste. Il est impossible de savoir si elle est réelle ou si c’est un montage si l’on ne connaît pas précisément le corps de la personne. Et puis, on se demande où vont atterrir ces images », a déclaré Miriam Al Adib, gynécologue et maman de l’une des victimes, au Figaro.
À lire aussi
Après avoir publié une vidéo sur Instagram, dans laquelle elle demande notamment aux victimes de prévenir les parents, elle a découvert que sa fille âgée de 14 ans n’était pas la seule à avoir été ciblée, certaines filles ayant reçu ces photos en juillet, mais ayant gardé le silence de peur de se faire gronder par leurs parents. Une d’entre elles a même été victime d’une tentative d’extorsion. Au total, 22 plaintes ont été déposées à la police espagnole et une dizaine de garçons ont été identifiés comme étant impliqués soit dans la création des images, soit dans leur diffusion.
Pour Lydie Catalano, ce n’est pas l’IA qui est responsable dans le cas présent. « La problématique, c’est que l’intelligence artificielle est un outil. Si demain, vous la mettez dans les mains d’un abruti, il en fera des choses stupides », indique-t-elle. « L’éducation qu’on en fait et l’accès peut-être trop facile aux outils d’intelligence artificielle sont aussi un problème », estime l’ancienne enseignante.
Elle dresse le même constat avec les réseaux sociaux et l’anonymat, qui permet à certain·e·s de harceler d’autres personnes en toute impunité : « La problématique, c’est l’humain qui est derrière et qui relaie, c’est cette volonté de relayer des choses qui sont toxiques. » Elle juge ainsi nécessaire de former les individus à arrêter et à se rendre compte pour éviter ces utilisations malveillantes. Dans le cadre de son plan de lutte contre le harcèlement, le gouvernement prévoit justement de mettre en place des cours d’empathie dès la rentrée 2024.
