Dans une lettre adressée aux PDG des sociétés ayant déployé des chatbots suite à la sortie de ChatGPT, un sénateur américain leur demande des informations sur la façon dont elles gèrent la sécurité des enfants.
Microsoft, Snap, Google et Meta. Après le lancement de ChatGPT, ces entreprises se sont lancées dans l’aventure de l’intelligence artificielle générative (IA) en lançant leurs propres chatbots pour offrir de nouvelles expériences à leurs utilisateurs, mais aussi concurrencer le robot conversationnel d’OpenAI. La multiplication de ces systèmes suscite des inquiétudes, notamment concernant la sécurité des enfants.
Protéger les jeunes des préjudices potentiels
C’est pour cette raison que le sénateur du Colorado, Michael Bennet a envoyé une lettre adressée aux PDG de ces sociétés, y « soulignant le préjudice potentiel pour les jeunes utilisateurs de se précipiter pour intégrer l’intelligence artificielle générative dans leurs produits et services ». « La course au déploiement de l’IA générative ne peut pas se faire au détriment de nos enfants », a-t-il écrit, mentionnant plusieurs exemples récents de ces chatbots ayant généré des contenus nuisibles et dérangeants.
Le sénateur cite notamment My AI, le robot conversationnel de Snapchat qui a suggéré des idées à une fille de 13 ans pour rendre sa première fois spéciale lors d’un voyage avec un homme de 31 ans, mais aussi donner des conseils à un adolescent pour cacher des bleus avant une visite des services de protection de l’enfance.
Michael Bennet s’inquiète aussi de l’arrivée de ces agents conversationnels en pleine épidémie de santé mentale chez les jeunes. « Bien que les chatbots alimentés par l’IA comportent des risques pour tout le monde… Les jeunes utilisateurs sont à un stade précoce de développement cognitif, émotionnel et intellectuel, ce qui les rend plus influençables, impulsifs et moins équipés pour distinguer les faits de la fiction », a-t-il expliqué. « Dans ce contexte, il n’est pas difficile de voir le risque d’exposer les jeunes à des chatbots qui se sont parfois livrés à des violences verbales, ont encouragé la tromperie et ont suggéré l’automutilation », a ajouté le sénateur.
Estimant qu’« un déploiement responsable nécessite des politiques et des cadres clairs pour promouvoir la sécurité, anticiper les risques et atténuer les dommages », il conclut sa lettre en demandant aux entreprises de fournir des informations concernant leurs fonctionnalités de sécurité existantes ou prévues pour les jeunes utilisateurs ou encore sur les mesures prises pour anticiper, prévenir et atténuer les préjudices potentiels pour ces derniers d’ici le 28 avril.
