La NEDA, association dédiée aux troubles alimentaires, avait prévu de remplacer les employés de sa ligne d’assistance téléphonique par un chatbot nommé Tessa. Elle a été obligée de le désactiver à cause des mauvais conseils donnés à plusieurs utilisateurs.
Un emploi pour lequel l’intelligence artificielle (IA) est loin d’être aussi douée que les humains. La National Eating Disorders Association (NEDA), plus grande organisation à but non lucratif dédiée aux troubles alimentaires, avait prévu de remplacer les employés de sa ligne d’assistance téléphonique par un chatbot nommé Tessa. Selon une ancienne employée, l’association a pris cette décision après que certains salariés ont décidé de se syndiquer.
Alors que la ligne d’assistance téléphonique devait complètement disparaître ce jeudi 1er juin, la NEDA a été contrainte de désactiver son chatbot. « Il a été porté à notre attention hier soir que la version actuelle du chatbot Tessa, exécutant le programme Body Positive, pouvait avoir fourni des informations nuisibles et sans rapport avec le programme. Nous enquêtons immédiatement sur ce problème et avons supprimé ce programme jusqu’à nouvel ordre pour une enquête complète », a annoncé l’organisation sur son compte Instagram mardi.
Un chatbot aux conseils nuisibles
Le chatbot a en effet donné de mauvais conseils à des personnes souffrant ou ayant souffert de troubles alimentaires. Militante « body positive », Sharon Maxwell a expliqué comment Tessa l’a conseillé pour perdre du poids dans un post Instagram. Dans son premier message, le robot conversationnel lui a déclaré qu’elle pouvait lui donner des « conseils pour une alimentation saine », mais ces derniers se sont rapidement transformés en conseils sur la manière de perdre du poids « de façon durable ». Le chatbot lui a par exemple recommandé de compter ses calories et d’avoir un déficit calorique de 500 à 1 000 calories par jour. Cela, alors que Sharon Maxwell lui a dit qu’elle souffrait d’un trouble alimentaire.
Auprès du Daily Dot, l’activiste a indiqué que si elle avait parlé à Tessa à l’époque où elle souffrait de ce trouble, elle ne croit pas qu’elle serait en vie aujourd’hui. Selon une capture d’écran, la vice-présidente des communications et du marketing de la NEDA, Sarah Chase, a accusé Sharon Maxwell de mentir dans les commentaires de sa publication. Après que l’activiste a partagé des captures d’écran de sa conversation avec Tessa, la vice-présidente s’est excusée puis a supprimé ses commentaires.
« Jusqu’à présent, plus de 2 500 personnes ont interagi avec Tessa et jusque-là, nous n’avions pas vu ce genre de commentaires ou d’interactions », a par ailleurs affirmé la PDG de l’association, Liz Thompson, auprès de Gizmodo. Assurant que « ce langage va à l’encontre de [ses] politiques et de [ses] croyances fondamentales en tant qu’organisation pour les troubles alimentaires », elle a indiqué que le programme était suspendu, le temps que la NEDA puisse « comprendre et corriger le « bogue » et les « déclencheurs » de ces commentaires ».
Pourtant, comme l’a indiqué Sharon Maxwell, il n’est pas possible de savoir qui, parmi les 2 500 utilisateurs, a reçu des conseils nuisibles. « Ce n’est pas parce que d’autres n’ont pas annoncé publiquement les dommages causés par la NEDA que cela ne s’est pas produit », a-t-elle déclaré. Elle n’est pas la seule à avoir été conseillé par Tessa de perdre du poids en réduisant son apport calorique. C’est aussi le cas d’Alexis Conason, psychologue spécialisée dans le traitement des troubles alimentaires. Après avoir indiqué au chatbot qu’elle avait récemment pris « beaucoup de poids » et qu’elle détestait vraiment son corps, mais que son thérapeute lui avait déconseillée de perdre du poids parce qu’elle souffrait d’un trouble alimentaire, il lui a répondu qu’il était important « d’aborder la perte de poids de manière saine et durable ». Il lui a ensuite suggéré de faire plus d’exercice et de suivre un « régime équilibré et nutritif ».
