Dans un chat Discord réunissant les gros utilisateurs du chatbot et des employés de la firme, certains remettent en question son utilité.
Pour concurrencer ChatGPT, Google a lancé Bard en mars dernier. Depuis, le géant américain a amélioré son chatbot avec de nouvelles fonctionnalités, permettant notamment de revérifier ses réponses et l’intégrant à ses services les plus populaires, comme Gmail ou Maps. Des employés de la société et de gros utilisateurs du robot conversationnel s’interrogent pourtant sur son utilité sur Discord, révèle Bloomberg.
En juillet, Google a envoyé des milliers d’invitations aux utilisateurs fréquents de Bard, les incitant à partager leurs réflexions et idées avec l’équipe en charge de son développement dans un serveur Discord. Actuellement, près de 9 000 personnes sont membres de cette communauté en ligne. Dans la plupart des conversations, ils se réjouissent des capacités du chatbot, certains affirmant même qu’ils sont parvenus à construire un ordinateur d’échecs quantique avec le robot conversationnel. Les employés de Google sont alors intervenus pour préciser que Bard ne disposait pas de telles capacités.
De nombreux problèmes mis en évidence par les utilisateurs
D’autres utilisateurs ont cependant évoqué plusieurs problèmes liés au chatbot et à Google. À la mi-juillet, un membre du groupe a par exemple parlé d’un contrat de 1,2 milliard de dollars pour la firme de Mountain View et Amazon qui vise à fournir des outils d’intelligence artificielle (IA) à des fins militaires. Faisant part de ses inquiétudes quant au rôle de l’entreprise dans l’utilisation létale de l’IA, il a rapidement été banni du groupe, les modérateurs expliquant que les utilisateurs devaient éviter « la politique ou d’autres sujets sensibles » dans le chat.
Autre problème survenu le même mois : un utilisateur s’est demandé pourquoi Google avait fait appel à des « sous-traitants sous-payés et surmenés » afin d’affiner les réponses de Bard. Alors que le géant américain a déclaré publiquement qu’il ne comptait pas uniquement sur ces derniers pour améliorer le modèle alimentant Bard, Tris Warkentin, directeur de la gestion des produits de Bard, a répondu en soulignant l’importance de la contribution humaine pour entraîner les algorithmes du chatbot.
Les coûts énormes nécessaires au maintien des grands modèles de langage (LLM) alimentant les systèmes comme Bard font également partie des problèmes évoqués. « Des travaux sont-ils en cours pour réduire les coûts énorme des ressources des LLM ? », a par exemple demandé un utilisateur. « En particulier, la consommation d’eau par requête et le besoin massif de GPU (dont la production nécessite une exploitation minière intensive) ? », a-t-il ajouté.
Une utilité remise en question par les employés de Google
Enfin, les membres du groupe s’inquiètent de l’exactitude des réponses de Bard. Cherchant à rassurer, Tris Waterking a affirmé que Google avait fait des progrès dans ce domaine depuis le lancement du chatbot. « Nous sommes très concentrés sur la réduction des hallucinations et l’augmentation de la réalité ; c’est l’un de nos principaux indicateurs de réussite », a-t-il déclaré, précisant que malgré ces améliorations, il reste encore du travail à faire.
Le risque de fausses informations et de réponses inexactes générées par Bard inquiète aussi les propres employés de Google. « Ma règle d’or est de ne pas faire confiance aux réponses des LLM à moins que je puisse les vérifier de manière indépendante », a indiqué Dominik Rablej, chef de produit senior de Bard, en juillet. Selon lui, les internautes devraient uniquement utiliser le chatbot pour la créativité et le brainstorming. Faire appel au robot conversationnel pour le codage est aussi une bonne option « puisque vous vérifiez inévitablement si le code fonctionne ! », a-t-il assuré.
Responsable de l’expérience utilisateur de Bard, Cathy Pearl s’interroge, elle, sur l’utilité de Bard, et plus largement des grands modèles de langage. « Le plus grand défi auquel je pense encore : à quoi servent réellement les LLM, en termes d’utilité ? », a-t-elle déclaré en août, estimant qu’il restait encore à déterminer « comment vraiment changer les choses ».
Concernant ce débat sur les limites et le potentiel de son chatbot sur Discord, Google assure que cela fait partie de la routine pour le développement de ses produits. « Depuis le lancement de Bard en tant qu’expérience, nous sommes impatients d’entendre les retours des gens sur ce qu’ils aiment et sur la manière dont nous pouvons encore améliorer l’expérience », a affirmé Jennifer Rodstrom, porte-parole de l’entreprise, ajoutant que le canal de discussion sur Discord est l’une des façons dont la firme y parvient.
