Recevez chaque jour toute l'actualité du numérique

x

Sous couvert d'éthique, Microsoft limite l'accès à ses logiciels de reconnaissance faciale

Microsoft change de stratégie dans le domaine de la reconnaissance faciale. L'accès à certaines de ses API sera soumis à un formulaire d'approbation. La reconnaissance des émotions est complètement supprimée. Outre la volonté de faire bonne figure, l'entreprise se prépare surtout aux changements réglementaires en cours.
Twitter Facebook Linkedin Flipboard Email
×

Sous couvert d'éthique, Microsoft limite l'accès à ses logiciels de reconnaissance faciale
Sous couvert d'éthique, Microsoft limite l'accès à ses logiciels de reconnaissance faciale © API Face

Microsoft limite depuis le 21 juin l'accès à certains de ses logiciels de reconnaissance faciale, souhaitant garantir une "intelligence responsable". Ces changements s'inscrivent dans la deuxième version de son livre blanc "Microsoft Responsible AI Standard", qui vient d'être publié. Il recense les tests effectués par les équipes en interne pour vérifier le respect de certains principes par les algorithmes (surveillance des impacts négatifs, les biais...). 
 

Demander l'accès aux API

Ces nouvelles restrictions concernent trois API proposées par Microsoft : Azure Face API (reconnaissance des visages), Computer Vision (algorithmes pour le traitement d'images) et Video Indexer (extraction des insights de vos vidéos à l’aide de modèles vidéo et audio). A compter du 21 juin, les nouveaux clients doivent demander l'accès pour utiliser ces API et les clients existants ont un an pour demander et recevoir l'autorisation de les utiliser en fonction des cas d'usage fournis. Un formulaire a été créé à cet effet. 

À compter du 30 juin 2023, les clients existants ne pourront plus accéder aux capacités de reconnaissance faciale si leur application de reconnaissance faciale n'a pas été approuvée. L'objectif de Microsoft est clair : empêcher n'importe qui d'accéder à des technologies qui – mal utilisées – peuvent causer de nombreux préjudices. "En introduisant l'accès limité, nous ajoutons une couche supplémentaire de contrôle à l'utilisation et au déploiement de la reconnaissance faciale pour garantir que l'utilisation de ces services s'aligne sur la norme d'IA responsable de Microsoft", déclare Sarah Bird, responsible AI Lead, Azure AI Cognitive Services. 

L'entreprise précise que les fonctionnalités considérées comme moins ou non sensibles, telles que la détection du flou, de l'exposition, des lunettes, de la pose de la tête, des points de repère, du bruit, de l'occlusion et de la zone de délimitation du visage, resteront "généralement" disponibles.

Exit la reconnaissance des émotions sauf pour le handicap

Plus radical, Microsoft supprime totalement les capacités d'analyse faciale qui prétendent déduire "des émotions" à partir de certaines caractéristiques présentes sur le visage d'une personne et de ses attributs, tels que l'âge, le sexe, le maquillage, le sourire, la pilosité. Il explique avoir mené des recherches avec des experts. La conclusion n'est absolument pas surprenante : aucune donnée scientifique ne permet d'étayer l'idée selon laquelle il existerait un lien entre "l'expression faciale et l'état émotionnel". De plus, ce type d'algorithme soulève des problématiques sur le consentement et la protection des données personnelles. Plus généralement, écrit Sarah Bird, il peut être utilisé à mauvais escient "en soumettant les personnes à des stéréotypes, à la discrimination ou à un déni injuste de services". 

Certaines exceptions pourront être apportées dans le cas des personnes en situation de handicap. Ces fonctionnalités pourront donc être intégrées dans des applications, telle que Seeing AI. S'adressant aux personnes victimes d'une déficience visuelle, cette application utilise la caméra de l'appareil pour identifier les personnes et les objets puis pour les décrire. Notons que Microsoft innove très régulièrement dans le domaine du handicap. En mai dernier, il a présenté de nouveaux accessoires adaptés.

L'industrie prend de la distance

Le changement opéré par Microsoft n'a rien de surprenant. En juin 2020, IBM s'est retiré de ce marché à la suite de la mort de George Floyd lors d'une interpellation à Minneapolis. Quelques jours plus tard, Amazon annonçait un moratoire d'un an sur l'utilisation par la police de son service de reconnaissance faciale Rekognition. Meta a également mis fin à Deepface, l'outil de reconnaissance faciale du réseau social Facebook

Ces prises de distance s'inscrivent également dans un contexte réglementaire de plus en plus fort. L'Union européenne est actuellement en train d'adopter un règlement pour encadrer le recours à l'intelligence artificielle. Les entreprises étrangères souhaitant commercer sur le marché européen devront respecter des obligations. Microsoft semble donc se préparer doucement mais sûrement.

Réagir

* Les commentaires postés sur L’Usine Digitale font l’objet d’une modération par l’équipe éditoriale.