Recevez chaque jour toute l'actualité du numérique

x

Amazon rejoint l'initiative de Facebook et Microsoft pour lutter contre les deepfakes et protéger les élections

[ACTUALISE] A l'horizon des prochaines élections présidentielles américaines en novembre 2020, Amazon a annoncé lundi 21 octobre 2019 rejoindre Facebook, Microsoft ainsi que plusieurs universités prestigieuses dans leur lutte contre les deepfakes. L'objectif est de créer un set de données qui sera mis à disposition de chercheurs indépendants, puis de lancer un challenge de détection de deepfakes avec à la clé 10 millions de dollars de prix. Le concours sera supervisé par le consortium Partnership on AI.
mis à jour le 22 octobre 2019 à 10H20
Twitter Facebook Linkedin Flipboard Email
×

Amazon rejoint l'initiative de Facebook et Microsoft pour lutter contre les deepfakes et protéger les élections
Le "deepfake" - contraction de "deep learning" et "fake" - désigne la création de fausses vidéos manipulant le visage et la voix des gens. © Facebook

Actualisation (22/10/2019) : Amazon Web Services (AWS) veut montrer le bon exemple. Le 21 octobre 2019, le géant numérique a annoncé rejoindre le consortium déjà formé par Facebook, Microsoft et plusieurs universités prestigieuses (notamment le Massachusetts Institute of Technology et Oxford) pour lutter contre les deepfakes. Selon nos confrères américains du site Engadget, AWS proposera aux experts "une assistance technique et des conseils" ainsi que des crédits d'un montant d'un million de dollars aux équipes ayant besoin de services cloud pour mener à bien leur travail de détection.

 

 

Article original :

Le spectre des deepfakes hante les prochaines élections présidentielles américaines, qui se tiendront en novembre 2020. Pour rappel, ce terme (contraction de "deep learning" et "fake") désigne des vidéos truquées de façon parfois extrêmement réaliste et sans nécessiter de talent ou connaissance technique particulière. Le visage et la voix de n'importe qui peuvent être imités parfois à la quasi-perfection à partir d'un échantillon limité.

 

Pour lutter contre ce phénomène en amont de l'échéance, Facebook a annoncé le 5 septembre 2019 qu'il va mettre en jeu 10 millions d'euros de récompense dans un concours pour trouver le meilleur outil anti-deepfake possible. Le réseau social s'allie pour l'occasion avec Microsoft et plusieurs universités prestigieuses (le MIT et Oxford notamment), et confiera la supervision du concours au consortium Partnership on AI dont il fait partie.

 

 

Générer le plus de deepfakes possibles

Le but affiché par la firme américaine : générer le plus de deepfakes possibles pour entraîner les algorithmes de détection. En effet, il faut réussir à ce que les systèmes de protection automatisés soient capables de repérer, presque chirurgicalement, le moindre trait suspect sur un visage dans une vidéo ou une photo. Facebook va donc demander à des acteurs consentants de se prêter au jeu.

 

La firme américaine prend les devants en affirmant "qu'aucune donnée d'utilisateur Facebook ne sera utilisée" dans ce projet. Les vidéos seront présentées, en décembre 2019, à la Conférence sur les systèmes de traitement de l'information neuronale (NIPS).

 

Les exemples fleurissent sur la toile

Donald Trump accusant Barack Obama de viol, l'ancien président des Etats-Unis traitant son successeur de "connard" ou encore Mark Zuckerberg prenant une drôle de position sur la vie privée… ces exemples fleurissent sur la toile.

 

 

Et les deepfakes peuvent aller encore plus loin, jusqu'à la pornographie par exemple. Courant automne 2017, une vidéo met par exemple en scène de cette manière l'actrice britannique Daisy Ridley sur le site communautaire Reddit. On comprend aisément les préjudices qui peuvent découler d'une telle situation. Mais, pour ce challenge, Facebook s'investit dans un domaine bien particulier : les futures élections présidentielles américaines.

 

Les élections à l'épreuve d'Internet

Les élections représentent de manière générale une période propice à la circulation de fausses informations sur Internet, au risque qu'elles influencent le scrutin. Les deepfakes, une création récente, n'ont pas encore été utilisés dans ce cadre, mais les géants technologiques américains veulent anticiper ce cas de figure.

 

Lors la campagne présidentielle américaine de 2016, l'état de santé d'Hillary Clinton avait été mis en doute à grands coups de rumeurs et de montages. Déclenchée par Donald Trump et savamment alimentée par la chaîne américaine Fox News, la rumeur courrait que la candidate démocrate était gravement malade. Une affirmation totalement fausse.

 

 

Une législation anti-deepfakes aux Etats-Unis

Certains Etats d'outre-Atlantique ont commencé à construire un arsenal législatif autour de cette problématique. Le 2 juin 2018, la Virginie a interdit les deepfakes, estimant qu'ils faisaient partie du "revenge porn", rentrant ainsi dans le cercle très fermé des territoires ayant adopté une telle loi. Selon le site américain The Verge, le Texas se serait dotée d'une législation "anti-deepfakes" spécialement pour les prochaines élections. Cette dernière est entrée en vigueur le 1e septembre 2019.

 

De son côté, l'Hexagone ne s'est pas encore doté d'une législation spécifiquement relative aux deepfakes. Un premier pas a tout de même été franchi avec la loi du 22 décembre 2018 relative à la lutte contre la manipulation de l'information. Concrètement, ce texte a créé une nouvelle voie de référé visant à faire cesser la diffusion de fausses informations dans les trois mois précédant un scrutin national. Une fois saisi, le juge doit apprécier, sous 48 heures, si ces données sont diffusées "de manière artificielle ou automatisée" et "massive".

Réagir

* Les commentaires postés sur L’Usine Digitale font l’objet d’une modération par l’équipe éditoriale.

 
media