Recevez chaque jour toute l'actualité du numérique

x

Bruxelles veut limiter l'utilisation de l'IA pour la surveillance... sauf pour la sécurité publique

Vu ailleurs Dans sa future réglementation sur l'IA, la Commission européenne souhaite interdire les algorithmes intrusifs qui visent à mettre en place une surveillance généralisée ou à manipuler le comportement humain. En revanche, cette exclusion ne s'appliquera pas aux organismes publics qui font valoir des raisons de sécurité. 
Twitter Facebook Linkedin Flipboard Email
×

Bruxelles veut limiter l'utilisation de l'IA pour la surveillance... sauf pour la sécurité publique
Bruxelles veut limiter l'utilisation de l'IA pour la surveillance... sauf pour la sécurité publique © François Genon/Unsplash

La Commission européenne doit présenter sa proposition de règlement sur l'intelligence artificielle, dans la continuité de son livre blanc, le 21 avril prochain. Euractiv a pu consulter ce texte en avance et révèle que Bruxelles souhaite interdire les applications d'IA jugées trop intrusives. 

Interdiction de la surveillance généralisée
Ainsi, les systèmes utilisés pour effectuer "une surveillance indiscriminée appliquée de manière généralisée à toutes personnes physiques sans différenciation" devraient être bannis. Le même sort sera réservé aux algorithmes ayant pour objectif de manipuler le comportement humain ou noter les personnes en fonction de leurs actes. 

En cas de violation de ce principe, les entreprises risquent une amende pouvant aller jusqu'à 4% de leur chiffre d'affaires annuel, d'après la proposition de règlement européen. En revanche, les gouvernements et les autorités publiques de l'Union européenne auront le droit de déroger à cette règle "afin de préserver la sécurité publique". Pour l'instant, aucune définition n'a pas été donnée de ce concept. Généralement, il vise la criminalité organisée ou le terrorisme.

Réglementer l'IA à haut risque
La Commission européenne souhaite strictement encadrer, sans les interdire pour autant, ce qu'elle appelle l'IA à "haut risque", comme les technologies de reconnaissance faciale installées dans "des espaces accessibles au public". Des nouvelles exigences d'évaluation de leur conformité pourraient être mises en place. 

Le texte prévoit également la création d'un "Conseil européen de l'intelligence artificielle" composé d'un représentant de chacun des 27 Etats membres, d'un représentant de la Commission et du Contrôleur européen de la protection des données (CEPD). Il sera chargé "d'émettre des recommandations et des avis pertinents à la Commission, en ce qui concerne la liste des pratiques d'intelligence artificielle et la liste des systèmes d'IA à haut risque". 

Certains députés sont inquiets
La mise en oeuvre de ces principes n'est pas pour demain. En effet, une fois que l'exécutif aura présenté sa proposition, le Conseil et le Parlement devront l'approuver. Or, certains eurodéputés estiment d'ores et déjà que les règles ne sont pas assez strictes. Dans une lettre, ils demandaient à la Commission de s'attaquer aux risques pour les droits fondamentaux qu'engendrent l'IA à "haut risque". Ursula von der Leyen, la président de la Commission, a promis que cette demande sera prise en compte.

Réagir

* Les commentaires postés sur L’Usine Digitale font l’objet d’une modération par l’équipe éditoriale.