Actualité web & High tech sur Usine Digitale

Recevez chaque jour toute l'actualité du numérique

x

Pour protéger les élections, Facebook, Microsoft et d'autres lancent une initiative contre les deepfakes

A l'horizon des prochaines élections présidentielles américaines en novembre 2020, Facebook s'associe, le 5 septembre 2019, à Microsoft et plusieurs universités prestigieuses pour lutter contre les deepfakes, ces trucages vidéos plus vrais que nature. Le réseau social va commissionner la création d'un set de données qui sera mis à disposition des chercheurs indépendants, puis lancer un challenge de détection de deepfakes avec à la clé 10 millions de dollars de prix. Le concours sera supervisé par le consortium Partnership on AI.
Twitter Facebook Linkedin Flipboard Email
×

Pour protéger les élections, Facebook, Microsoft et d'autres lancent une initiative contre les deepfakes
Le "deepfake" - contraction de "deep learning" et "fake" - désigne la création de fausses vidéos manipulant le visage et la voix des gens. © Facebook

Le spectre des deepfakes hante les prochaines élections présidentielles américaines, qui se tiendront en novembre 2020. Pour rappel, ce terme (contraction de "deep learning" et "fake") désigne des vidéos truquées de façon parfois extrêmement réaliste et sans nécessiter de talent ou connaissance technique particulière. Le visage et la voix de n'importe qui peuvent être imités parfois à la quasi-perfection à partir d'un échantillon limité.

 

Pour lutter contre ce phénomène en amont de l'échéance, Facebook a annoncé le 5 septembre 2019 qu'il va mettre en jeu 10 millions d'euros de récompense dans un concours pour trouver le meilleur outil anti-deepfake possible. Le réseau social s'allie pour l'occasion avec Microsoft et plusieurs universités prestigieuses (le MIT et Oxford notamment), et confiera la supervision du concours au consortium Partnership on AI dont il fait partie.

 

 

Générer le plus de deepfakes possibles

Le but affiché par la firme américaine : générer le plus de deepfakes possibles pour entraîner les algorithmes de détection. En effet, il faut réussir à ce que les systèmes de protection automatisés soient capables de repérer, presque chirurgicalement, le moindre trait suspect sur un visage dans une vidéo ou une photo. Facebook va donc demander à des acteurs consentants de se prêter au jeu.

 

La firme américaine prend les devants en affirmant "qu'aucune donnée d'utilisateur Facebook ne sera utilisée" dans ce projet. Les vidéos seront présentées, en décembre 2019, à la Conférence sur les systèmes de traitement de l'information neuronale (NIPS).

 

Les exemples fleurissent sur la toile

Donald Trump accusant Barack Obama de viol, l'ancien président des Etats-Unis traitant son successeur de "connard" ou encore Mark Zuckerberg prenant une drôle de position sur la vie privée… ces exemples fleurissent sur la toile.

 

 

Et les deepfakes peuvent aller encore plus loin, jusqu'à la pornographie par exemple. Courant automne 2017, une vidéo met par exemple en scène de cette manière l'actrice britannique Daisy Ridley sur le site communautaire Reddit. On comprend aisément les préjudices qui peuvent découler d'une telle situation. Mais, pour ce challenge, Facebook s'investit dans un domaine bien particulier : les futures élections présidentielles américaines.

 

Les élections à l'épreuve d'Internet

Les élections représentent de manière générale une période propice à la circulation de fausses informations sur Internet, au risque qu'elles influencent le scrutin. Les deepfakes, une création récente, n'ont pas encore été utilisés dans ce cadre, mais les géants technologiques américains veulent anticiper ce cas de figure.

 

Lors la campagne présidentielle américaine de 2016, l'état de santé d'Hillary Clinton avait été mis en doute à grands coups de rumeurs et de montages. Déclenchée par Donald Trump et savamment alimentée par la chaîne américaine Fox News, la rumeur courrait que la candidate démocrate était gravement malade. Une affirmation totalement fausse.

 

 

Une législation anti-deepfakes aux Etats-Unis

Certains Etats d'outre-Atlantique ont commencé à construire un arsenal législatif autour de cette problématique. Le 2 juin 2018, la Virginie a interdit les deepfakes, estimant qu'ils faisaient partie du "revenge porn", rentrant ainsi dans le cercle très fermé des territoires ayant adopté une telle loi. Selon le site américain The Verge, le Texas se serait dotée d'une législation "anti-deepfakes" spécialement pour les prochaines élections. Cette dernière est entrée en vigueur le 1e septembre 2019.

 

De son côté, l'Hexagone ne s'est pas encore doté d'une législation spécifiquement relative aux deepfakes. Un premier pas a tout de même été franchi avec la loi du 22 décembre 2018 relative à la lutte contre la manipulation de l'information. Concrètement, ce texte a créé une nouvelle voie de référé visant à faire cesser la diffusion de fausses informations dans les trois mois précédant un scrutin national. Une fois saisi, le juge doit apprécier, sous 48 heures, si ces données sont diffusées "de manière artificielle ou automatisée" et "massive".

Réagir

* Les commentaires postés sur L’Usine Digitale font l’objet d’une modération par l’équipe éditoriale.

 
media
Suivez-nous Suivre l'Usine Digitale sur twitter Suivre l'Usine Digitale sur facebook Suivre l'Usine Digitale sur Linked In RSS Usine Digitale