Rekognition, le système de reconnaissance facial d’Amazon fait débat

Le leader du e-commerce avait présenté Rekognition, son système de reconnaissance faciale, en novembre 2017. Mais selon des tests réalisés par l’Union américaine pour les libertés civiles (ACLU), il est loin d’être au point, comme l'explique un article sur son site. Pour tester l’exactitude de Rekognition, l’ACLU a scanné les visages des 535 membres du Congrès et de 25 000 autres personnes. Aucun des membres du Congrès ne figuraient dans cette liste d’individus, or le système de reconnaissance faciale d’Amazon a généré 28 fausses correspondances.

Rekognition utilisé par des services de police

Ces essais ont montré un taux d’inexactitude bien plus élevé pour les personnes de couleur que pour les personnes à la peau claire puisque 11 des 28 erreurs les concernaient. Bien que ce problème soit assez récurrent pour les systèmes de reconnaissance faciale, l’ACLU soulève de sérieuses inquiétudes quant à la fiabilité de Rekognition et à son utilisation faite par les gouvernements et les services de police.

Le système d’Amazon a commencé à faire débat en mai, lorsqu’un rapport de l’ACLU a dévoilé qu’il était utilisé par un certain nombre d’organismes en charge de l’application de la loi. Par exemple la police d’Orlando a utilisé Rekognition pour un essai de reconnaissance en temps réel. Utilisé dans ces hypothèses “une identification, exacte ou non, pourrait coûter aux gens leur liberté ou même leur vie”, affirme l'ACLU.

Retrouver un visage dans une foule

La technologie d’Amazon Rekognition est présentée par la société, comme un outil étant capable de reconnaître, en temps réel, des visages et des textes. Il est ainsi possible d'extraire un texte d'une image réelle. Grâce à de l'IA et du deep learning, il est possible de détecter des visages, les analyser et les comparer. L'outil d'Amazon permet la reconnaissance faciale en temps réel parmi des dizaines de millions de visages. Une personne dont le visage est connu des autorités, pourra ainsi être retrouvé parmi une foule immense. L'outil n'a qu'à mémoriser l'image de l'individu et parviendra, en principe, à l'identifier. Une équipe travaille en permanence sur l’outil afin d’améliorer son service. Mais l’entreprise ne se contente pas de travailler sur cette technologie, puisqu’elle la met à disposition des gouvernements, comme c’est le cas aux Etats-Unis.

Vendu dans le cadre de l’offre cloud d’Amazon Web Services, le logiciel est particulièrement peu coûteux puisqu’il ne dépasse pas les douze dollars par mois, pour l’ensemble d’un département. L’analyse de l’ACLU soulève également des inquiétudes quant à la facilité d’accès des sources de Rekognition. Les identités et autres données qui ont été recueillies par l’ACLU sont accessibles librement au public, sans surveillance. “Le Congrès doit prendre ces menaces au sérieux, enclencher les freins et adopter un moratoire sur l’utilisation de la reconnaissance faciale par les forces de l’ordre” a défendu l’ACLU. Suite à cela, l’ACLU et une coalition d’organisations des droits civiques ont demandé à Amazon de cesser tout travail avec des gouvernements.

Amazon défend Rekognition malgré les attaques

Pour sa part, Amazon a défendu son système Rekognition et contesté les méthodes de l’ACLU. “Nous restons enthousiasmés par la façon dont l’analyse d’image et de vidéo peut être un moteur pour le bien dans le monde, y compris dans le secteur public et l’application de la loi”, a écrit la société de e-commerce dans un communiqué. Un porte-parole d’Amazon a attribué les résultats obtenus par l’ACLU, a un mauvais étalonnage. Les tests de l’ACLU ont été effectués en utilisant le seuil de confiance par défaut de 80%. Bien que dans certains cas, ce seuil soit acceptable, comme pour la reconnaissance d’objets ou d’animaux, à l’enjeu minime, ce niveau de certitude est loin d’être suffisant pour l’identification de personnes.

Sélectionné pour vous

Avec l'IA générative, la biologie allie science et ingénierie

Sur les plateformes chinoises, des deepfakes d'influenceurs pour vendre des produits

Des chercheurs développent un simulateur cardiaque pour former les cardiologues