Recevez chaque jour toute l'actualité du numérique

x

Facebook durcit encore ses règles sur le retrait des deepfakes

Même si les deepfakes se font encore rares sur internet, Facebook veut agir tout de suite. Après avoir lancé un challenge de détection en septembre 2019, le réseau social modifie sa politique de retrait de ces trucages vidéos plus vrais que nature. Si le contenu a été réalisé à l'aide de l'IA et qu'un utilisateur lambda ne peut pas détecter son authenticité, il sera supprimé.  
Twitter Facebook Linkedin Flipboard Email
×

Facebook durcit encore ses règles sur le retrait des deepfakes
Facebook durcit encore ses règles sur le retrait des deepfakes © Facebook

Facebook continue ses efforts dans la lutte contre les deepfakes. Dans un billet de blog publié le 6 janvier 2020, le réseau social annonce de nouvelles règles concernant ces trucages vidéos plus vrais que nature. "Même si ces vidéos sont encore rares sur internet, elles constituent un challenge important pour notre industrie et pour la société à mesure que leur utilisation augmente", déclare Monika Bickert, vice-présidente de la gestion des politiques internationales chez Facebook et rédactrice du document.

 

Deux critères à remplir pour être supprimé

Concrètement, une telle vidéo doit remplir deux critères pour être supprimée par Facebook. Premièrement, la réalité du contenu doit être difficilement détectable par une "personne moyenne". Deuxièmement, la vidéo doit être le produit de "l'intelligence artificielle ou de l'apprentissage automatique".

 

Comme pour chaque annonce de ce type, Facebook rappelle qu'il ne s'agit pas là de réduire à néant la liberté d'expression sur internet. En effet, il indique que les deepfakes au contenu satirique ou parodique qui ne cherchent pas à manipuler les internautes ne seront pas supprimés du réseau social.

 

Par ailleurs, l'auteur du contenu supprimé pourra demander un réexamen de son cas. Cette procédure sera alors menée par les "50 partenaires de vérification" du réseau social établis dans le monde entier. Si le contenu est considéré comme faux, la visibilité de ce dernier sera considérablement réduite voire totalement supprimée s'il s'agit d'une publicité. Les internautes ayant déjà partagé ce contenu recevront des messages les alertant de la situation.

 

Détecter les deepfakes

Mais avant de pouvoir supprimer ces vidéos, il faut déjà pouvoir les détecter. Et c'est là que se situe une grande partie du problème. C'est pour cette raison que Facebook s'est associé avec Microsoft, Amazon et des universités prestigieuses pour lancer, début septembre 2019, le "Deepfake Detection Challenge". Ainsi l'équipe qui trouvera le meilleur outil "anti-deepfake" gagnera 10 millions de dollars.

 

Le but de ce programme est de générer le maximum de deepfakes pour entraîner les algorithmes de détection. En effet, il faut réussir à ce que les systèmes de protection automatisés soient capables de repérer, presque chirurgicalement, le moindre trait suspect sur un visage dans une vidéo ou une photo. Facebook a donc demandé à des acteurs consentants de se prêter au jeu.

 

Si Facebook s'investit autant dans la lutte contre les deepfakes, ce n'est pas par hasard. Le réseau social redoute que son réseau social ne devienne un vivier à fausses informations durant les élections américaines de novembre 2020. Rien ne prouve encore que cette multiplication d'initiatives portera ses fruits mais, au moins, Facebook ne sera pas accusé d'attentisme.

 

Réagir

* Les commentaires postés sur L’Usine Digitale font l’objet d’une modération par l’équipe éditoriale.

 
media