Steven Schwartz s’est servi du chatbot pour préparer son dossier juridique, mais les affaires citées par le robot conversationnel n’ont jamais existé.
ChatGPT, comme d’autres chatbots, peut inventer des informations. Une tendance connue sous le nom d’hallucination et qui porte actuellement préjudice à un avocat. Comme le rapporte le New York Times, Steven Schwartz a récemment utilisé le robot conversationnel d’OpenAI afin de préparer un dossier juridique dans le cadre d’une affaire. Celle-ci oppose son client, Robert Mata, à la compagnie aérienne Avianca. Il affirme avoir été blessé lorsqu’un chariot de service en métal lui a heurté le genou au cours d’un vol vers New York.
Lors du procès, la compagnie a demandé à un juge de rejeter l’affaire. C’est alors que les avocats de Robert Mata ont soumis ce dossier de 10 pages, citant plus d’une demi-douzaine de décisions judiciaires pertinentes. Problème : personne n’a pu trouver une trace de ces décisions ou des citations incluses dans le dossier car elles avaient toutes été inventées par ChatGPT.
« Des circonstances sans précédent »
Dans une déclaration sous serment, Steven Schwartz a indiqué avoir utilisé le chatbot pour effectuer ses recherches juridiques, mais il a assuré qu’il n’avait aucune intention de tromper le tribunal ou la compagnie aérienne. L’avocat a également affirmé qu’il ne s’était jamais servi de ChatGPT et « ignorait donc la possibilité que son contenu puisse être faux ». Il a en outre déclaré qu’il avait demandé au robot conversationnel de vérifier que les affaires auxquelles il faisait référence étaient réelles. Le chatbot lui a répondu que c’était le cas, indiquant que les décisions pouvaient être trouvées dans des « bases de données juridiques réputées ».
Assurant « regretter profondément » d’avoir utilisé ChatGPT, Steven Schwartz a déclaré « qu’il ne le fera jamais à l’avenir sans une vérification absolue de son authenticité ». Reste à voir s’il aura l’occasion de rédiger un autre dossier juridique. Le juge chargé de l’affaire a en effet ordonné la tenue d’une audience le 8 juin afin de discuter des sanctions potentielles pour les « circonstances sans précédent » créées par l’avocat avec l’utilisation du robot conversationnel.
