Facebook durcit encore ses règles sur le retrait des deepfakes

Même si les deepfakes se font encore rares sur internet, Facebook veut agir tout de suite. Après avoir lancé un challenge de détection en septembre 2019, le réseau social modifie sa politique de retrait de ces trucages vidéos plus vrais que nature. Si le contenu a été réalisé à l'aide de l'IA et qu'un utilisateur lambda ne peut pas détecter son authenticité, il sera supprimé.

 

Partager
Facebook durcit encore ses règles sur le retrait des deepfakes

Facebook continue ses efforts dans la lutte contre les deepfakes. Dans un billet de blog publié le 6 janvier 2020, le réseau social annonce de nouvelles règles concernant ces trucages vidéos plus vrais que nature. "Même si ces vidéos sont encore rares sur internet, elles constituent un challenge important pour notre industrie et pour la société à mesure que leur utilisation augmente", déclare Monika Bickert, vice-présidente de la gestion des politiques internationales chez Facebook et rédactrice du document.

Deux critères à remplir pour être supprimé

Concrètement, une telle vidéo doit remplir deux critères pour être supprimée par Facebook. Premièrement, la réalité du contenu doit être difficilement détectable par une "personne moyenne". Deuxièmement, la vidéo doit être le produit de "l'intelligence artificielle ou de l'apprentissage automatique".

Comme pour chaque annonce de ce type, Facebook rappelle qu'il ne s'agit pas là de réduire à néant la liberté d'expression sur internet. En effet, il indique que les deepfakes au contenu satirique ou parodique qui ne cherchent pas à manipuler les internautes ne seront pas supprimés du réseau social.

Par ailleurs, l'auteur du contenu supprimé pourra demander un réexamen de son cas. Cette procédure sera alors menée par les "50 partenaires de vérification" du réseau social établis dans le monde entier. Si le contenu est considéré comme faux, la visibilité de ce dernier sera considérablement réduite voire totalement supprimée s'il s'agit d'une publicité. Les internautes ayant déjà partagé ce contenu recevront des messages les alertant de la situation.

Détecter les deepfakes

Mais avant de pouvoir supprimer ces vidéos, il faut déjà pouvoir les détecter. Et c'est là que se situe une grande partie du problème. C'est pour cette raison que Facebook s'est associé avec Microsoft, Amazon et des universités prestigieuses pour lancer, début septembre 2019, le "Deepfake Detection Challenge". Ainsi l'équipe qui trouvera le meilleur outil "anti-deepfake" gagnera 10 millions de dollars.

Le but de ce programme est de générer le maximum de deepfakes pour entraîner les algorithmes de détection. En effet, il faut réussir à ce que les systèmes de protection automatisés soient capables de repérer, presque chirurgicalement, le moindre trait suspect sur un visage dans une vidéo ou une photo. Facebook a donc demandé à des acteurs consentants de se prêter au jeu.

Si Facebook s'investit autant dans la lutte contre les deepfakes, ce n'est pas par hasard. Le réseau social redoute que son réseau social ne devienne un vivier à fausses informations durant les élections américaines de novembre 2020. Rien ne prouve encore que cette multiplication d'initiatives portera ses fruits mais, au moins, Facebook ne sera pas accusé d'attentisme.

SUR LE MÊME SUJET

Sujets associés

NEWSLETTER L'Usine Digitale

Nos journalistes sélectionnent pour vous les articles essentiels de votre secteur.

Votre demande d’inscription a bien été prise en compte.

Votre email est traité par notre titre de presse qui selon le titre appartient, à une des sociétés suivantes...

Votre email est traité par notre titre de presse qui selon le titre appartient, à une des sociétés suivantes du : Groupe Moniteur Nanterre B 403 080 823, IPD Nanterre 490 727 633, Groupe Industrie Service Info (GISI) Nanterre 442 233 417. Cette société ou toutes sociétés du Groupe Infopro Digital pourront l'utiliser afin de vous proposer pour leur compte ou celui de leurs clients, des produits et/ou services utiles à vos activités professionnelles. Pour exercer vos droits, vous y opposer ou pour en savoir plus : Charte des données personnelles.

ARTICLES LES PLUS LUS