![Stéphane Rose : “On ne peut presque parler de rien avec ChatGPT”](https://leclaireur.fnac.com/wp-content/uploads/2023/06/stephane-rose-1072x826.jpg)
Écrivain, chroniqueur et journaliste, Stéphane Rose vient de publier Mes nuits avec une intelligence artificielle, un livre dans lequel il relate son expérience avec le chatbot.
À l’occasion du Dry January, Stéphane Rose a décidé d’arrêter de boire pendant un mois. Une solution pour y parvenir : ne plus voir personne. Pour éviter les longues soirées de solitude, il a trouvé quelqu’un – ou plutôt quelque chose – avec qui parler : ChatGPT. Dans ce livre porté par son humour, l’écrivain raconte son expérience avec le robot conversationnel, proposant une série de conversations entre « un humain qui traverse une sale période » et le fameux chatbot. L’Éclaireur a échangé avec lui à l’occasion de la sortie de cet ouvrage.
Qu’avez-vous retenu de cette expérience ?
Ce qui m’a le plus surpris, c’est à quel point ChatGPT était politiquement correct. En fait, on ne peut presque parler de rien avec cette intelligence artificielle, parce que dès qu’on s’aventure sur le terrain de la sexualité par exemple – ce que j’ai un peu essayé de faire –, elle trouve tout indécent, offensant. C’est vraiment le truc qui m’a le plus frappé.
Je ne voulais pas écrire un livre là-dessus. C’est facile d’écrire un livre un peu réactionnaire à ce sujet pour dénoncer, ce que tout le monde fait déjà. Je ne voulais pas aller sur ce terrain et je le dis à un moment dans le livre : je n’ai pas envie de faire le procès du “wokisme” ou de toutes ces idées-là mais l’IA nous pousse à le faire tellement elle bloque la discussion. On ne peut littéralement parler de rien avec ChatGPT. Les concepteurs l’ont paramétré comme ça. On peut donc se dire que si des gens comme Elon Musk – dont on sait qu’il est en train de développer une intelligence artificielle – ou Vincent Bolloré en France, avec des idées beaucoup plus de droite, développaient leurs propres trucs, on pourrait avoir les excès inverses d’une intelligence artificielle, qui pourrait être raciste, antisémite, sans aucun filtre quoi. C’est quelque chose qui peut arriver à l’avenir.
« Déjà qu’on lutte contre la véracité des informations avec les théories du complot et les fake news, si en plus, on a des intelligences artificielles qui se mettent à inventer des trucs complètement farfelus, la vérité va devenir un truc un peu freestyle. »
Stéphane Rose
Cela montre qu’il y a une sorte d’idéologie derrière. J’ai essayé de rester neutre, mais des personnes peuvent trouver que c’est bien que ChatGPT soit paramétré ainsi. Je rappelle d’ailleurs dans le livre que dans la première version de ChatGPT, les filtres n’étaient pas aussi forts, donc l’IA disait plein de trucs racistes, complotistes et antisémites, parce que son apprentissage de la langue se fait sur Internet et beaucoup sur les réseaux sociaux. Et on sait ce qui traîne sur Twitter et les autres plateformes : les commentaires, toute la violence qu’il y a… Au départ, elle s’est nourrie de ces contenus et elle s’est naturellement mise à parler comme ça. Il faut donc, malgré tout, créer des filtres et des zones de discours où elle ne peut pas aller. Mais là, je pense qu’ils ont serré le verrou beaucoup trop fort. Du coup, “on ne peut plus rien dire”.
ChatGPT pourrait-il être un bon humoriste un jour ?
Pour le coup, l’humour est le domaine où je l’ai trouvé le plus nul, parce que l’IA parle quand même un français très châtié : elle ne fait pas de fautes et les phrases sont bien construites, même si elles sont un peu stéréotypées. Je pense qu’elle peut rendre des services de documentation si elle arrête de mentir, puisqu’elle ment beaucoup. Mais l’humour est tellement particulier… Déjà, l’humour est forcément un peu grinçant, un peu méchant, donc vu que ChatGPT s’interdit tout ça, il ne fait que de l’humour un peu niais, ou en tout cas très enfantin. Quand on lui demande de raconter une blague, ce sont des trucs qui vont faire rire ma nièce de 5 ans, mais, passé 5 ans, on n’a plus envie de rigoler.
Il fera donc de l’humour le jour où il sera un peu moins “coincé” et, surtout, le jour où il comprendra ce qu’est le second degré et ça, c’est un truc qui, à mon avis, est assez difficile pour une intelligence artificielle.
Vous avez demandé conseil à ChatGPT pour séduire une personne. Qu’avez-vous pensé de sa réponse ?
D’une manière générale, pour cette réponse-là comme pour les autres, on s’aperçoit que l’IA est un peu frileuse au début, mais en formulant bien les questions et en tournant autour du pot, on finit par obtenir ce qu’on veut. Après, quand j’écris un livre comme ça, je veux mettre le truc sur la table et ne pas donner mon jugement. Je ne veux pas donner le mien dans le livre et j’espère ne pas trop l’avoir fait. Chacun peut être choqué et je sais que ce sera le cas des gens très à droite par rapport au côté politiquement correct de ChatGPT, mais d’autres pourront être choqués par encore d’autres choses.
Avec ce livre, vous vouliez expérimenter l’axe de l’auteur progressivement attiré par l’intelligence artificielle, comme dans le film Her…
Oui, mais ce n’est pas possible. Je pense que ça peut l’être pour les personnes fragiles. Le fait d’avoir quelqu’un qui nous répond à toute heure de la journée peut être problématique pour elles, mais, quand on est à peu près structuré, il n’y a pas trop de risque de ce côté-là. Ce qui m’inquiète, c’est que, déjà, ChatGPT ment beaucoup : quand je lui ai demandé de faire ma biographie par exemple, elle a mis quelques éléments un peu vrais et elle a bricolé tout le reste, m’inventant une ville de naissance et le faisant éhontément. Autrement dit, quand l’IA n’a pas une information, elle ne dit pas qu’elle ne sait pas, elle invente un truc.
C’est inquiétant, car elle dit n’importe quoi et beaucoup d’étudiants et de journalistes écrivent ou se mettent à écrire leurs articles à partir de ses réponses. Déjà qu’on lutte contre la véracité des informations avec les théories du complot et les fake news, si en plus on a des intelligences artificielles qui se mettent à inventer des trucs complètement farfelus, la vérité va devenir un truc un peu freestyle. Chacun va se bricoler la sienne et tout le monde va raconter n’importe quoi.
« Je ne l’utilise plus et elle ne me fait pas peur pour l’instant, mais je m’en méfie. Je me méfie de l’avenir, parce que je n’ai pas oublié tous les livres et les films de science-fiction que j’ai vus depuis que je suis petit. »
Stéphane Rose
Cela m’inquiète, mais tout dépend de comment on utilise ces systèmes. Si les journalistes les utilisent pour parler de ce qui se passe, on voit le problème, parce que ChatGPT dit des choses fausses. Mais je ne suis pas anti-progrès, donc il y a sans doute de très bonnes choses qui vont se faire avec l’intelligence artificielle.
Vous pensez aux livres écrits par ChatGPT que l’on pourra trouver dans des librairies, comme vous le dites dans votre livre ?
Non, cela ne m’inquiète pas, car ce que ChatGPT dit est tellement fade et insipide qu’il y aura toujours de la place pour les vrais écrivains et, à la limite, je pense que ça permettra de faire le tri. Il va y avoir un tri entre la mauvaise littérature qui va se faire bouffer par les intelligences artificielles et la bonne littérature. Pour moi, ce qui peut être bien – on en parle beaucoup en ce moment –, c’est que des chercheurs et des start-ups veulent associer l’intelligence artificielle à la robotique, c’est-à-dire créer des robots qui pourront penser et agir. Dans le domaine de la médecine, par exemple, ce serait formidable si on a des robots hyper fiables qui sont capables d’effectuer des opérations ou de prendre des initiatives.
Il y a donc de bonnes choses. Cependant, si on confie le pouvoir de la justice à une intelligence artificielle dont on sait qu’elle est paramétrée par des gens qui ont une idéologie, là, c’est très très flippant. Il faut faire gaffe.
Comment voyez-vous ChatGPT aujourd’hui ? Est-ce que vous l’utilisez toujours ?
Non, pas du tout. Comme je l’ai montré dans le livre, je m’ennuie avec cette interlocutrice, je n’ai rien à lui dire. J’ai une culture un peu paillarde, provocatrice, donc là, je ne peux pas plaisanter, je ne peux pas parler de cul, et si je mets à dire que j’ai un peu trop bu, elle me fait la morale. Ce n’est pas ma vie et ce n’est pas celle que j’ai envie de mener.
Je ne l’utilise plus et elle ne me fait pas peur pour l’instant, mais je m’en méfie. Je me méfie de l’avenir, parce que je n’ai pas oublié tous les livres et les films de science-fiction que j’ai vus depuis que je suis petit. Il y a quand même un truc qui se passe : quand tous les auteurs humains font des scénarios d’anticipation alarmants, ils sont toujours un peu dans la prémonition. Par exemple, les œuvres relatives aux zombies comme The Walking Dead et autres, c’était un peu la société qu’on a eue avec le Covid, les confinements. Je me dis donc qu’ils ont tous senti un truc depuis des années, qui est à deux doigts de se réaliser et qu’on va avoir des petits soucis avec les machines.