La jeune pousse parisienne fait beaucoup parler d’elle ces derniers jours, mais sa réputation pourrait rapidement être écornée.
Mise à jour du 13/02 à 14h35. Un porte-parole de Mistral nous fait savoir que « les informations contenues dans les requêtes des utilisateurs sont utiles à l’amélioration de la pertinence des réponses de notre assistant », et précise que « Mistral AI a toujours permis à ses utilisateurs de refuser l’utilisation des informations contenues dans les requêtes adressées au Chat ». La politique de confidentialité de l’entreprise spécifie effectivement que même les utilisateurs de la formule gratuite peuvent s’opposer à la collecte et au traitement de leurs données en envoyant un mail à privacy@mistral.ai. Plus d’infos à cette adresse.
Pépite de la French Tech, largement mise en avant lors du sommet pour l’action sur l’IA en début de semaine, Mistral entre dans une zone de turbulences. À peine son application pour smartphone sortie que la startup se fait taper sur les doigts pour sa pratique de gestion de la confidentialité hasardeuse.
Le problème avec Le Chat de Mistral
Le Chat est le chatbot d’intelligence artificielle développé par Mistral. Jusqu’ici accessible uniquement sur un navigateur web, il se présente désormais par le biais d’une application fonctionnelle, capable – sur le papier – de rivaliser avec ChatGPT ou Gemini.
Accessible gratuitement, Le Chat propose toutefois, comme beaucoup de ses concurrents, une version payante, baptisée Le Chat Pro. Outre des limites d’utilisation rehaussées, la mobilisation d’un modèle de langage plus performant et l’accès à la technologie de génération d’images, Le Chat Pro permet aussi de désactiver l’apprentissage automatique de l’IA grâce aux données que les utilisateurs et utilisatrices fournissent au service par leurs requêtes. En d’autres termes : payer pour protéger ses données personnelles.
Une pratique qui contrevient au Règlement général pour la protection des données (RGPD) et qui a déclenché le dépôt d’une plainte de Me Jérémy Roche auprès de la Cnil, révèle le média L’Informé.
Que risque vraiment la startup française ?
L’article 12 du RGPD interdit aux entreprises de monnayer le refus de partage des données personnelles des internautes – ce que semble faire ici Mistral avec son abonnement Pro. Si la Cnil donne suite, elle pourra d’abord avertir l’entreprise et l’inviter à faire évoluer ses formules. Une courtoisie qui, si elle est balayée par la startup, pourra éventuellement se transformer en une amende dont le montant est encore difficile à estimer.
Avec l’écologie et le danger qu’elle fait peser sur de nombreuses professions, l’intelligence artificielle inquiète également beaucoup les avocats de la protection des données personnelles. Les grands modèles de langage (LLM) étant par essence bâtis sur les innombrables données laissées en accès libre sur Internet, il y a un peu de chacun d’entre nous dans les ChatGPT, Gemini et autres Le Chat de ce monde.
L’AI Act, entré en vigueur la semaine dernière, contient d’ailleurs un volet qui obligera les entreprises spécialisées dans l’IA à divulguer le corpus de données utilisé pour entraîner leurs modèles.
