Avec cette technologie, baptisée Project Mockingbird, l’entreprise de sécurité informatique vise à aider les consommateurs à se défendre face à ces faux contenus utilisés par les cybercriminels.
De plus en plus sophistiqués, les outils d’intelligence artificielle (IA) générative sont utiles aux cybercriminels. Ils s’en servent pour faire tenir des propos problématiques à des célébrités, cyberharceler des individus ou encore en arnaquer d’autres, en usurpant l’identité d’un membre de la famille afin de faire croire qu’il est en danger. Face à la menace croissante de ces deepfakes audio, McAfee a dévoilé une technologie capable de les détecter, à l’occasion du CES 2024.
Baptisée Project Mockingbird, son nom est inspiré des oiseaux moqueurs, connus pour imiter ou « se moquer » des chants d’autres oiseaux. Elle vise à aider les consommateurs, qui ont de plus en plus de difficultés à distinguer le vrai du faux avec les progrès de l’IA. « Notre objectif est de donner aux utilisateurs la clarté et la confiance nécessaires pour naviguer dans les nuances de notre nouveau monde axé sur l’IA, afin de protéger leur vie privée, leur identité et leur bien-être en ligne », a déclaré Steve Grobman, directeur de la technologie de McAfee, dans un communiqué.
Permettre de distinguer le vrai du faux
Concrètement, la technologie de l’entreprise est capable d’identifier si l’audio d’une vidéo est susceptible d’avoir été générée par l’IA à l’aide d’une combinaison de modèles de détection contextuels, comportementaux et catégoriels. McAfee assure être en mesure de détecter et d’offrir aux utilisateurs un niveau de protection inégalé avec un taux de précision actuel de 90%. « Grâce aux dernières capacités de détection d’IA de McAfee, nous fournirons à nos clients un outil qui fonctionne avec une précision de plus de 90% pour aider les utilisateurs à comprendre leur monde numérique et à évaluer la probabilité que le contenu soit différent de ce qu’il paraît », a assuré Steve Grobman.
L’entreprise entend ainsi permettre aux consommateurs de déterminer ce qui est réel ou faux, afin qu’ils puissent éviter les arnaques ou reconnaître qu’une vidéo sur un candidat à une élection est réelle ou a été générée par l’IA à des fins malveillantes. « Les cas d’utilisation de cette technologie de détection de l’IA sont très variés et s’avéreront inestimables pour les consommateurs dans un contexte d’augmentation des escroqueries et de la désinformation générées par l’IA », a affirmé le directeur de la technologie de McAfee.
