Microsoft déploie un nouvel outil pour lutter contre les deepfakes
A l'approche des élections américaines, Microsoft dévoile un nouvel outil de lutte contre les deepfakes. Cette technologie baptisée Video Authentificator analyse des photos ou vidéos et détermine la probabilité qu'elles aient été manipulées.
Microsoft accentue encore sa recherche contre les deepfakes. La firme de Redmond a présenté mardi 1er septembre un nouvel outil pour lutter contre ces photos, vidéos et fichiers audio manipulés par des techniques d'intelligence artificielle (en l'occurrence de deep learning, d'où le terme "deepfake"). La lutte contre les deepfakes, qui permettent de faire dire à quelqu'un des choses qu'il n'a pas dites ou de placer une personne dans une situation où elle n'a jamais été, est d'autant plus importante que la période électorale approche aux Etats-Unis.
Fournir une probabilité d'authenticité
Video Authentificator analyse une photo ou les images fixes d'une vidéo afin d'établir un pourcentage de chance que le média soit manipulé. Dans le cas d'une vidéo, précise Microsoft, cet outil peut fournir ce pourcentage en temps réel pour chaque image de la vidéo. Pour détecter ces contenus trafiqués, l'outil cherche à identifier les limites de la fusion d'un deepfake et des éléments de décoloration ou des nuances de gris qui ne peuvent pas être détectés par l'œil humain.
L'entreprise a développé cet outil à l'aide d'un jeu de données publiques provenant de Face Forensic++ et l'a testé et entraîné sur le DeepFake Detection Challenge Dataset. Microsoft rappelle que détecter avec précision les deepfakes est d'autant plus compliqué qu'ils sont générés par des modèles auto-apprenants et qui s'améliorent petit à petit. Ces sets de données sont donc particulièrement utiles pour lutter contre ces techniques de manipulation.
Un outil destiné aux producteurs de contenus
Microsoft a aussi développé une technologie permettant de détecter du contenu manipulé, pour garantir aux internautes que le média qu'ils regardent est authentique. Mais celui-ci repose sur les producteurs de contenus et s'appuie sur un outil Microsoft Azure permettant d'enregistrer dans les métadonnées du média des certificats d'authenticité et une segmentation du contenu. A partir de là, Microsoft propose un lecteur, qui peut prendre la forme d'une extension de navigateur, et va vérifier les certificats et différents segments du média afin de préciser au spectateur qui l'a produit et s'il a été modifié ou non.
SUR LE MÊME SUJET
Microsoft déploie un nouvel outil pour lutter contre les deepfakes
Tous les champs sont obligatoires
0Commentaire
Réagir