Microsoft et l'Université de Pékin conçoivent des outils anti-deepfake
Dans une série de publications scientifiques, Microsoft Research et l'Université de Pékin présentent deux outils pour détecter des deepfakes. FaceShifter est capable de subsister des visages tout en conservant un ensemble de caractéristiques (arrière-plan, éclairage, pose de la tête...) et Face X-Ray peut déceler précisément la partie d'une image qui a été préalablement modifiée.
La lutte contre les deepfakes s'intensifie. Dans une série d'articles repérée par Venture Beat le 6 janvier 2020, Microsoft Research et l'Université de Pékin exposent leurs travaux pour détecter ces trucages plus vrais que nature qui soulèvent de nombreuses inquiétudes. Ils ont ainsi mis au point deux outils : FaceShifter et Face X-Ray. Les scientifiques affirment que ces nouvelles méthodes de détection sont moins gourmandes en données tout en affichant des performances optimales.
Un outil qui repose sur les GANs
FaceShifter n'a pas pour but premier de détecter un deepfake mais il apporte de nouvelles connaissances clés. Cet outil permet de prendre un visage dans une image source pour remplacer cette partie dans une image cible tout en conservant la pose de la tête, l'expression du visage, l'éclairage, la couleur, l'intensité et l'arrière-plan.
Cet outil repose sur les réseaux antagonistes génératifs couramment appelés GANs pour "Generative Adversarial Networks". Une série de tests a permis de montrer que l'outil conservait avec précision les formes de visages, l'éclairage et la résolution des images tandis que pour les images collectées en ligne, il n'avait pas besoin de données apportées par l'homme pour récupérer les régions comportant des anomalies.
Déceler la partie de l'image modifiée
Le second outil, baptisé Face X-Ray, a lui été créé pour lutter directement contre les deepfakes. Il permet de détecter un visage falsifié et même d'indiquer la partie qui a été spécifiquement modifiée. Pour concevoir Face X-Ray, les chercheurs ont eu recours à FaceForensics++, un corpus de vidéo contenant plus de 1000 contenus falsifiés.
Mais cet outil connaît des limites. Il est incapable de fonctionner avec une image entièrement synthétique qui n'a pas été "fusionnée" avec une autre image. Car c'est en repérant les points de "fusion" que Face X-Ray détecte le vrai du faux. Selon les scientifiques, cet obstacle n'empêche pas Face X-Ray d'être une étape prometteuse vers un détecteur universel qui s’avérerait très utile à l'approche des prochaines élections américaines, en novembre 2020.
Cet événement pousse les géants technologiques à agir. Facebook a annoncé, le 7 janvier 2020, durcir ses règles sur le retrait des deepfakes. Si le contenu a été réalisé à l'aide d'une intelligence artificielle et qu'un utilisateur lambda ne peut pas détecter son authenticité, il sera supprimé par le réseau social.
SUR LE MÊME SUJET
Microsoft et l'Université de Pékin conçoivent des outils anti-deepfake
Tous les champs sont obligatoires
0Commentaire
Réagir