Londres, Moscou, New Delhi.. Les expérimentations de la reconnaissance faciale et leurs dérives

Londres, New Delhi, l'Utah… Les expérimentations de la reconnaissance faciale se multiplient dans le monde et soulèvent de plus en plus d'inquiétudes. Les projets se multiplient et il devient difficile de savoir exactement qui fait quoi et comment. L'Usine Digitale a donc décider de faire le point sur les expériences en cours. A noter que seuls les projets à l'initiative d'une organisation publique ont été recensés.

La police Londonienne et ses faux positifs

Londres est une des villes les plus surveillées au monde avec environ 420 000 caméras. Son système de reconnaissance faciale date d'août 2016, et il se perfectionne d'année en année. Le 24 janvier 2020, The Guardian révèle que le Metropolitan Police Service – la police municipale londonienne – a reçu l'autorisation d'utiliser la reconnaissance faciale en direct pour surveiller les rues. Il aura fallu deux ans pour obtenir le feu vert des autorités compétentes.

Les caméras éparpillées aux quatre coins de la ville seront reliées à une base de données où seront référencés les suspects. Si le logiciel ne détecte pas une personne inscrite sur la liste, les images ne seront pas conservées. Mais si un suspect est identifié, l'unité de police la plus proche pourra directement intervenir pour procéder à un contrôle, voire une arrestation.

La reconnaissance faciale en résumé

 

Le terme de "reconnaissance faciale" désigne un logiciel capable de reconnaître une personne grâce aux traits de son visage. C'est une forme d'authentification biométrique. En pratique, elle peut être réalisée à partir d'images fixes (photos) ou animées (enregistrements vidéo). Elle se déroule en deux phases. Un "gabarit" qui représente les caractéristiques d'un visage est d'abord réalisé. Puis vient l'étape de la comparaison des modèles de visage préalablement enregistrés avec les ceux capturés en direct pour déterminer s'ils correspondent.

Mais ce système est loin d'être parfait. Business Insider rapporte le 4 mars 2020 que plus de 8600 visages ont été scannés en une semaine avec… 86% de taux d'erreur. Sur ces 8 600 visages, huit personnes ont été reconnues comme faisant parties d'un fichier de suspects d'infractions violentes. Bémol : sept d'entre elles l'ont été à tort, donnant lieu à plusieurs contrôles non justifiés. Ce n'est la première fois que des chiffres attestent du manque de fiabilité de cette technologie. Début juillet 2019, des chercheurs de l'Université de l'Essex ont publié une étude sur le système utilisé par la police londonienne. Ils démontrent que quatre personnes sur cinq identifiées par le logiciel comme étant des suspects potentiels sont en réalité innocents, ce qui correspond à un taux d'erreur d'environ 81%.

L'Utah coopère avec l'entreprise Banjo AI

L'Etat américain de l'Utah a signé un contrat de 20,7 millions de dollars sur cinq ans avec la start-up Banjo AI, révèle Motherboard dans un article publié le 4 mars 2020. Le but est d'aider les forces de l'ordre à repérer les individus potentiellement dangereux. L'accord donne à Banjo un accès en temps réel aux caméras de vidéosurveillance et de sécurité publique, aux systèmes d'urgence et aux données de localisation des véhicules.

La société affirme qu'elle combine ces données avec d'autres informations collectées sur les réseaux sociaux, les données d'imagerie satellite et autres applications pour détecter des "comportements anormaux" pour alerter la police en direct. Banjo AI certifie qu'elle supprime toutes les données au fur et à mesure pour ne pas porter atteinte au droit à la vie privée. Problème : les personnes concernées n'ont pas consenti à la réutilisation de leurs données à des fins sécuritaires par une entreprise privée, et Banjo n'explique pas comment il supprime ces informations.

Le contrat indique que la technologie sera déployée dans l'ensemble des 29 comtés de l'Etat américain et au sein de l'Université de l'Utah. Le média américain avance par ailleurs que le bureau du procureur général de l'Utah ne lui a fourni aucun exemple dans lequel la technologie s'était révélée utile.

La justice russe valide la reconnaissance faciale à Moscou

Le 3 mars 2020, un tribunal russe a jugé que l'utilisation de la reconnaissance faciale par Moscou ne violait pas la vie privée des personnes. L'affaire opposait, d'une part, l'avocate et militante Alena Popova et l'opposant politique Vladimir Milov, de l'autre, le département des technologies de l'information de Moscou (DIT). "Cette décision montre qu'il n'y a aucune défense juridique possible pour les plaintes relatives à la reconnaissance faciale", s'est désolé l'avocat de Popova, Kirill Koroteev, lors du verdict.

La capitale russe est dotée de 105 000 caméras. Ce réseau doit surtout servir lors des manifestations et des grands rassemblements pour assurer la sécurité. Les autorités russes affirment que les séquences vidéo sont supprimées dans les cinq jours suivant l'incident, sauf si les forces de l'ordre exigent le contraire. En ce moment, le système sert également à vérifier que les personnes atteintes du Covid-19 respectent bien leur mise en quarantaine.

New Delhi : des enfants disparus aux manifestants

La reconnaissance faciale ne répond pas exclusivement à des fins sécuritaires. Depuis 2018, l'Inde utilise cette technologie pour retrouver des enfants disparus. Mais fin décembre 2019, The Indian Express rapportait que New Delhi utilise également ce système pour distinguer "les manifestants habituels" des "éléments perturbateurs". Les services de police de la capitale indienne ont croisé les images filmées lors d'un meeting du Premier ministre Narendra Modi avec une base de données où sont compilés les visages filmés lors de manifestations dans la capitale ces dernières années pour identifier les individus suspects.

La grande majorité des expérimentations utilise un réseau de caméra couplé à un logiciel pour détecter les personnes inscrites sur des bases de données. Mais certains Etats regorgent d'imagination pour alimenter leur base. Depuis le 1er décembre 2019, par exemple, les citoyens chinois sont contraints de se faire scanner le visage pour souscrire à un forfait téléphonique.

Et en France ?

En France, il n'y a pas encore d'expérimentation de la reconnaissance faciale, mais cela ne saurait tarder. Dans une interview menée par Le Parisien fin décembre 2019, le secrétaire d'Etat au Numérique Cédric O annonçait vouloir expérimenter la reconnaissance faciale sur les images de télésurveillance pendant "six mois à un an". L'expérience sera supervisée par "la société civile et des chercheurs". L'objectif est de mesurer "les performances réelles" et avoir "des retours sur les différents cas d'usages" de la reconnaissance faciale. La date de démarrage n'est toujours pas connue.

La crainte de dérives à l'image de la Chine

De plus en plus de voix s'élèvent contre l'utilisation de la reconnaissance faciale, craignant la mise en place d'une surveillance de masse à l'image de la Chine. Ce n'est pas tant l'objectif premier de sécurité qui est critiqué mais plutôt la crainte de dérives. Pour lutter contre ces abus potentiels, l'Union européenne est sans doute l'organisation la mieux armée, avec le RGPD et la future réglementation sur l'IA dont les premiers contours ont été révélés dans un Livre blanc le 19 février 2020.

Dans ce document, la Commission européenne note que "le déploiement de la reconnaissance faciale dans les lieux publics" comporte "des risques particuliers en termes de droits fondamentaux". Elle y annonce également le lancement d'un "vaste débat européen sur les circonstances particulières, le cas échéant, qui pourraient justifier une telle utilisation" ainsi que sur les garanties à mettre en place. L'exécutif européen avait même envisagé, pendant quelques temps, interdire totalement le recours à la reconnaissance faciale dans les lieux publics le temps de trouver des garde-fous. Le projet a été finalement abandonné.

Mais il faut bien se rappeler que tous les Etats ne sont pas dotés d'un arsenal aussi fourni pour offrir aux citoyens des moyens de recours contre une potentielle utilisation abusive de cette technologie. Dans un pays où le système judiciaire est corrompu et les droits fondamentaux bafoués, le recours à la reconnaissance faciale peut légitimement inquiéter la société civile.