La prévention des deepfakes doit être une priorité absolue pour les forces de l'ordre, d'après Europol

La menace des deepfakes doit être prise très au sérieux par les services répressifs des pays européens, d'après Europol. Ces trucages vidéo ultra réalistes peuvent permettre de manipuler l'information, faciliter l'exploitation sexuelle en ligne des enfants... Leur détection nécessite l'adoption de technologies de pointe mais également de compétence humaine. 

Partager
La prévention des deepfakes doit être une priorité absolue pour les forces de l'ordre, d'après Europol

L'Europol Innovation Lab – une entité chargée d'identifier, de promouvoir et de développer des solutions innovantes à l'appui du travail opérationnel des Etats membres – a consacré un rapport aux deepfakes, ces trucages vidéo ultra réalistes et donc difficiles à déceler. Le visage et la voix de n'importe qui peuvent être imités parfois à la quasi-perfection à partir d'un échantillon limité grâce aux techniques d'apprentissage automatique.

Les exemples de deepfakes connus sont nombreux. Deux semaines après l'invasion de l'Ukraine par la Russie un deepfake de Volodymyr Zelensky, le président ukrainien, a été diffusé sur la chaîne d'information Ukraine 24, piratée, ainsi que plusieurs réseaux sociaux. Il exhortait sa population à rendre les armes. Les auteurs de ce trucage n'ont pas encore été retrouvés (et pourraient ne jamais l'être).

Une technologie largement adoptée par les criminels

Pour Europol, cette généralisation des deepfakes doit être prise très au sérieux par tous les maillons de la chaîne répressive, des forces de police jusqu'aux tribunaux. En effet, "le progrès de l'intelligence artificielle et la disponibilité de grandes bases de données d'images et de vidéo signifient que le volume et la qualité des contenus 'deepfake' augmentent", écrit l'agence européenne dans son rapport. Plus précisément, c'est le développement des réseaux antagonistes génératifs (GAN) qui a permis la démocratisation de ces trucages. Il s'agit d'une technique de machine learning qui se démarque par sa capacité à "créer".

Europol note que les cas d'usage des deepfakes sont très nombreux. Les criminels peuvent s'en servir pour manipuler l'information auprès du grand public mais également des entreprises. "Avec l'augmentation du volume de deepfakes, la confiance dans les autorités et les faits est sapée", note le rapport. Les autorités risquent également de se faire berner provoquant la prise de "mauvaises décisions" dans le cadre d'interventions ou d'enquêtes. Cette technologie peut aussi être utilisée pour modifier des titres d'identité, perturber les marchés financiers, favoriser l'exploitation sexuelle en ligne des enfants, perpétrer des extorsions des fraudes...

"Une priorité absolue"

Par conséquent, "la prévention et la détection des deepfakes doivent être la priorité absolue des forces de l'ordre", alerte Europol. Bien qu'habitués à devoir faire face à de fausses preuves, les policiers ne disposent pas forcément des technologies nécessaires pour déceler de tels trucages. "Les services répressifs devront non seulement former leur personnel à la détection des deepfakes, mais aussi investir dans leurs capacités techniques afin de relever efficacement les défis à venir tout en respectant les droits fondamentaux", conclut le rapport.

Les entreprises technologiques et les acteurs académiques développent des outils anti-deepfake. Microsoft et l'université de Pékin ont ainsi présenté deux outils : FaceShifter est capable de subsister des visages tout en conservant un ensemble de caractéristiques (arrière-plan, éclairage, pose de la tête...) et Face X-Ray peut déceler précisément la partie d'une image qui a été préalablement modifiée.

SUR LE MÊME SUJET

Sujets associés

NEWSLETTER L'Usine Digitale

Nos journalistes sélectionnent pour vous les articles essentiels de votre secteur.

Votre demande d’inscription a bien été prise en compte.

Votre email est traité par notre titre de presse qui selon le titre appartient, à une des sociétés suivantes...

Votre email est traité par notre titre de presse qui selon le titre appartient, à une des sociétés suivantes du : Groupe Moniteur Nanterre B 403 080 823, IPD Nanterre 490 727 633, Groupe Industrie Service Info (GISI) Nanterre 442 233 417. Cette société ou toutes sociétés du Groupe Infopro Digital pourront l'utiliser afin de vous proposer pour leur compte ou celui de leurs clients, des produits et/ou services utiles à vos activités professionnelles. Pour exercer vos droits, vous y opposer ou pour en savoir plus : Charte des données personnelles.

ARTICLES LES PLUS LUS