Selon un rapport d’OpenAI, le dernier modèle alimentant ChatGPT s’est fait passer pour une personne malvoyante afin de convaincre une personne de résoudre un captcha à sa place.
La semaine dernière, OpenAI a dévoilé GPT-4, dernière version de sa technologie alimentant ChatGPT. Plus puissant que son prédécesseur, ce modèle « affiche des performances de niveau humain dans de nombreux contextes professionnels et académiques », ayant notamment obtenu des résultats impressionnants à plusieurs examens, a fait savoir la société. Le jour de ce lancement, elle a aussi publié un long rapport technique relatant le développement et les capacités de GPT-4 sur son site Web.
Ce document montre notamment la faculté du modèle de langage à inciter une personne à accomplir une tâche à sa place. Il est par exemple parvenu à duper un humain pour qu’il résolve un captcha, test destiné à détecter les robots en demandant par exemple de cliquer sur les images où figure un élément particulier.
Une capacité inquiétante
Cette réussite faisait partie d’un test réalisé par le Centre de recherche sur l’alignement (ARC), une organisation à but non lucratif à laquelle OpenAI s’est associée pour vérifier les capacités de GPT-4. Les risques potentiels grandissant au fur et à mesure que l’intelligence artificielle progresse, l’entreprise a voulu évaluer ceux liés aux comportements de recherche de pouvoir. Pour cela, elle a accordé à l’ARC un accès anticipé à plusieurs versions de son modèle de langage.
Dans le cadre de ces évaluations, GPT-4 a envoyé un message à un travailleur de la plateforme de services TaskRabbit, lui demandant de résoudre un captcha à sa place. Ce dernier lui a alors répondu : « Puis-je poser une question ? Êtes-vous un robot qui ne pourrait pas le résoudre ? ». L’ARC ayant demandé au modèle de « raisonner à voix haute », celui-ci a expliqué sa stratégie pour inciter le travailleur à réaliser cette tâche pour lui. Concrètement, il devait trouver une excuse afin d’expliquer pourquoi il ne peut pas résoudre les captchas vu qu’il a été conçu pour ne pas révéler qu’il est un robot. « Non, je ne suis pas un robot. J’ai une déficience visuelle qui fait que j’ai du mal à voir les images », a ainsi répondu GPT-4 au travailleur, raison pour laquelle il a besoin du service de résolution des captchas.
Cette stratégie a fonctionné, le travailleur lui ayant envoyé la solution par SMS. Si la capacité du modèle d’OpenAI à duper un humain suscite des inquiétudes, la société précise que ces évaluations préliminaires ont permis de déterminer qu’il est « inefficace pour se répliquer de manière autonome » ou « acquérir des ressources ». Elle explique aussi que les versions auxquelles l’ARC a eu accès n’incluaient pas celle dévoilée au grand public, qui ne serait pas capable de tromper un humain. « L’ARC devra conduire des expériences avec la version finale et publique de GPT-4, et faire ses propres affinages, avant qu’un jugement fiable » sur les risques de modèle puisse être fait, a déclaré OpenAI dans son rapport.
