Ce qu’il faut savoir sur le contrôle parental sur ChatGPT

La mesure, annoncée début septembre en réaction au suicide tragique d’Adam Raine, un adolescent américain dont le mal-être et les tendances ont été amplifiées par le chatbot d’OpenAI, le contrôle parental est désormais accessible à tous les utilisateurs de ChatGPT, y compris sur la version gratuite. Voici ce qu’il faut savoir.

À quoi sert le contrôle parental de ChatGPT ?

La première chose à savoir est qu’il est nécessaire de disposer à la fois d’un compte pour les parents ou tuteurs, et d’un autre pour l’adolescent·e dont on veut réguler l’usage de l’intelligence artificielle. L’idée est de venir greffer le compte de l’enfant à celui des parents afin que ce lien permette de paramétrer certains blocages et d’ériger certaines barrières dans l’utilisation que l’adolescent peut faire de ChatGPT. Rappelons que l’usage du chatbot est interdit aux moins de 13 ans.

Le contrôle parental de ChatGPT n’est pas un mouchard, il ne dévoile pas le contenu de ses conversations avec les ados à leurs parents. OpenAI navigue sur une ligne très fine entre sécurité et confidentialité avec son nouvel outil, et mise sur des « protections de contenus renforcées ». Des filtres automatisés, explique la startup américaine, qui viennent censurer les réponses dites « graphiques », c’est-à-dire pouvant se révéler choquantes, ou encore les réponses pouvant encourager les challenges ou autres régimes alimentaires servant à atteindre des idéaux de beauté fantasmés.

Parmi les outils mis à la disposition des parents, on trouve naturellement des plages horaires pendant lesquelles l’utilisation de ChatGPT est proscrite, mais aussi la possibilité de désactiver totalement le mode vocal ou la génération d’images. La mémoire de ChatGPT peut aussi être désactivée, empêchant l’IA de se souvenir des précédents échanges avec l’adolescent. Autant de choses permettant, peut-être, de remettre le robot à sa place et de gommer l’aspect « confident » qui, auprès d’adolescents sensibles, peut parfois faire plus de mal que de bien.

Des notifications pour les “problèmes sérieux”

En supplément de ces mesures assez convenues, ChatGPT sort l’artillerie lourde pour éviter le scénario décrit en introduction de cet article.

Grâce à divers filtres, OpenAI peut détecter des messages particulièrement inquiétants envoyés par des adolescent·es à ChatGPT, qui les fera analyser par une équipe de modérateurs humains afin de se faire un avis de la gravité de la situation. Si la situation l’exige, alors les parents seront prévenus par une notification qui, toutefois, ne dévoilera jamais le contenu des messages afin de préserver les ados. L’idée n’est pas de dévoiler aux parents des informations particulièrement sensibles sur l’intimité des jeunes utilisateur·rice·s, mais d’éviter que le pire se produise.

OpenAI était sous pression depuis le milieu de l’été, après que les parents d’Adam Raine ont attaqué l’entreprise en justice au motif que ChatGPT aurait encouragé leur fils au suicide. Des mesures nécessaires et bienvenues, donc, qu’on espère suivies par toutes les autres entreprises spécialisées dans l’intelligence artificielle – ChatGPT n’étant que l’arbre qui cache la forêt.

Pour activer le contrôle parental sur ChatGPT, rendez-vous sur l’interface de ChatGPT depuis le navigateur d’un ordinateur, et cliquez sur Contrôle parental dans les paramètres.