Les « deepfakes » de plus en plus faciles à créer, et toujours aussi difficiles à détecter

0
257

Un deepfake est un contenu, généralement vidéo, manipulé et modifié par une IA. Cette technologie permet de changer les propos d’une personne à partir d’une vidéo originale. Mais jusqu’ici, les deepfakes nécessitent encore beaucoup de temps et de moyens de la part de leurs concepteurs pour élaborer des contenus de bonne qualité. Un ordinateur puissant est nécessaire. Celui-ci va apprendre comment changer le visage du personnage sur le clip en utilisant une IA et des milliers d’informations. Généralement, cette opération peut prendre des semaines. Mais il semble que cela va changer dans un futur assez proche. La plupart des grandes entreprises technologiques se penchent sur la création de leurs outils deepfakes respectifs pour offrir aux utilisateurs le moyen de créer plus rapidement et simplement ce type de contenu. La semaine dernière, l’application mobile de permutation de visages Doublicat, de la société spécialisée en conception d’AI RefaceAI, a créé un outil facile à utiliser. L’utilisateur peut mettre son visage pris à partir d’un simple selfie sur celui d’une autre personne dans un GIF populaire, par exemple. Le résultat n’a pas la perfection attendue, mais elle montre qu’avec un cliché de mauvaise qualité, il est possible de créer un deepfake. Doublicat a annoncé que des mises à jour seront publiées pour améliorer l’application et permettre aux utilisateurs de télécharger leurs propres GIFs. Simple à utiliser, Doublicat n’est pas le seul sur le marché. C’est par exemple le cas de Zao. Claude Goldenstein, fondateur et PDG de CREOpoint, une société qui aide les entreprises à détecter les désinformations en ligne, déclare que les échanges de visage sont de plus en plus utilisés en Chine et en Ukraine, et font même l’objet d’un commerce. Il a rappelé que Snapchat a repris AI Factory pour 166 millions de dollars. De son côté, l’application chinoise TikTok aurait conçu sa propre application deepfake qu’elle souhaite lancer incessamment.

Le terme « deepfake » a été créé par Reddit pour désigner les contenus modifiés par une IA. Après avoir constaté que la technologie est de plus en plus utilisée pour des contenus pornographiques, Reddit a élargi sa politique contre les deepfakes. Même si un grand nombre d’entreprises majeures veulent se lancer davantage dans la conception d’outils deepfakes, il est rappelé que cette technologie peut ruiner totalement la réputation d’une personne lorsque les internautes n’ont pas la possibilité de faire la différence entre le vrai et le faux. Les personnalités publiques en sont les plus concernées. Bien entendu, les inquiétudes commencent à se faire sentir, d’autant plus que les plus grandes entreprises technologiques avouent ne pas disposer d’outils pour détecter les contenus modifiés. C’est principalement pour cette raison que Facebook a interdit leur diffusion sur sa plateforme. Facebook a même lancé un concours, le Deepfake Detection Challenge, pour solliciter les universités et les chercheurs à trouver une solution fiable pour lutter contre les faux contenus

LEAVE A REPLY

Please enter your comment!
Please enter your name here