La startup italienne Cap_able a créé une collection de vêtements contenant un motif conçu par des algorithmes d’intelligence artificielle afin de berner ces systèmes.
La reconnaissance faciale est connue pour commettre des erreurs d’identification – portant préjudice à certains groupes de personnes – mais dans le cas présent, cela est voulu. Cap_able, une startup italienne a en effet créé une collection de vêtements dans cet objectif. Appelée Manifesto, elle vise à « sensibiliser aux risques associés à une mauvaise utilisation de la technologie de reconnaissance faciale ». Elle est composée de pulls, de hauts, de sweats à capuche, de t-shirts et de robes.
Pour tromper ces systèmes, chacun de ces vêtements contient un motif, appelé « patch contradictoire » et conçu par des algorithmes d’intelligence artificielle. Ainsi, soit les caméras reconnaissent les chiens, les zèbres, les girafes ou l’un des autres animaux intégrés dans le motif, soit elles ne parviennent pas à identifier le porteur du vêtement.
Protéger les humains de la reconnaissance faciale
L’idée est venue de la PDG, Rachele Didero, alors qu’elle étudiait au Fashion Institute of Technology, dans le cadre d’un échange scolaire en 2019. Lors de son séjour à New York, elle a appris que des locataires de Brooklyn s’étaient opposés aux projets de leur propriétaire d’installer un système de reconnaissance faciale pour leur immeuble. Après avoir discuté avec un ami ingénieur de la vie privée et des droits de l’homme, ils ont décidé de combiner la mode et la technologie pour « protéger [les] données », comme elle l’a expliqué au média américain CNN.
Ils ont utilisé deux méthodes pour obtenir les motifs destinés à tromper ces systèmes : ils ont créé l’image et se sont ensuite servis de l’algorithme pour l’ajuster ou ils ont défini les couleurs, la taille et la forme qu’ils souhaitaient donner au motif et demander à l’algorithme de le créer. Ils ont alors testé les images sur le système de détection d’objets YOLO, soit l’un des algorithmes les plus couramment utilisés dans la reconnaissance faciale.
Les vêtements ont ensuite été créés à l’aide d’une machine à tricoter informatisée, selon un processus désormais breveté. D’après Rachel Didero, ils parviennent à berner la technologie dans 60 à 90% des cas avec YOLO. Bien que les algorithmes de Cap_able soient destinés à s’améliorer, il est possible que les logiciels de reconnaissance faciale se perfectionnent eux aussi, peut-être même plus rapidement que ces derniers. Autre problème avec ces vêtements : les prix commencent à environ 300 euros, donc ils risquent d’être un produit de niche.
À noter qu’il ne s’agit pas de la première initiative de ce type. En 2019, des chercheurs de l’université KU Leven, en Belgique, ont par exemple créé une pancarte pour tromper la reconnaissance faciale, permettant à son porteur de devenir invisible aux yeux de ces systèmes. Plus récemment, lors de la Coupe du monde au Qatar, l’agence créative Virtue Worldwide a conçu une peinture faciale capable de berner les caméras de reconnaissance faciale du pays.
