Recevez chaque jour toute l'actualité du numérique

x

Transparence et opacité : la délicate question de l'évaluation des algorithmes dans le cadre juridique

Tribune L’analyse juridique autour des algorithmes continue dans cette nouvelle chronique. Après avoir identifié les risques autour leur utilisation, Pascal Agosti, avocat associé au sein du cabinet Caprioli & Associés, aborde les contours de la transparence algorithmique.
Twitter Facebook Linkedin Flipboard Email
×

Transparence et opacité : la délicate question de l'évaluation des algorithmes dans le cadre juridique
Transparence et opacité : la délicate question de l'évaluation des algorithmes dans le cadre juridique

Les biais de programmation liés aux algorithmes
Comme évoqué dans une précédente chronique relative à l’impact des algorithmes en droit de la concurrence, un algorithme n’est pas automatiquement neutre et peut, au contraire, perpétuer des réponses aberrantes, fondées sur des biais, discriminant systématiquement et de manière déloyale un groupe, une personne physique ou morale en faveur d’autres. Ces derniers peuvent être introduits à tout moment, y compris au moment même de l’élaboration de l’algorithme, automatiquement (machine learning) ou par les programmeurs, de manière explicite ou implicite.

Ce point peut être particulièrement préoccupant en matière de scoring dans le cadre de l’attribution des opérations de crédit, comme l’énonce ce rapport de l’Autorité Bancaire Européenne de 2018.

L’effet "black box" : l’opacité des algorithmes
Au-delà de cette problématique des biais, l’opacité des données et instructions mises en œuvre par les procédés algorithmiques peut également être dénoncée : c’est l’effet "black box" déjà évoqué dans le rapport Villani de mars 2018. En effet, les résultats obtenus par ces algorithmes ne sont pas auditables la majeure partie du temps, sont couverts par des droits de propriété intellectuelle (le plus souvent indirectement) et par le secret des affaires. Les algorithmes sont souvent établis sur des corrélations et des inférences plutôt que sur des causalités, empêchant de comprendre logiquement les résultats ainsi réalisés.

Face à ces risques, le Droit tend à promouvoir une meilleure transparence des algorithmes.

La transparence de l’algorithme : une définition aux contours flous
En dépit de l’engouement autour de cette notion ces dernières années, la transparence reste une notion difficile à définir. Seuls certains des éléments qui la composent ont une valeur constitutionnelle ou sont consacrés par des traités internationaux, comme l’accès aux documents publics.

Transparence et divulgation du code source
Appliquée à l’algorithme, elle renvoie de prime abord à la communication du code source ou la description détaillée du processus algorithmique. Mais une divulgation sèche et générale du code de l’algorithme, hors du cadre des autorités publiques, n’est pas appropriée.

Allant dans ce sens, le Parlement européen dans une résolution du Parlement européen du 12 février 2019 sur une politique industrielle européenne globale sur l’intelligence artificielle et la robotique reconnaît que "la divulgation du code informatique lui-même ne résoudra pas le problème de la transparence de l’IA parce qu’il ne révélerait pas les biais inhérents qui existent et ne permettrait pas d’expliquer le processus d’apprentissage automatique; souligne que la transparence signifie non seulement la transparence du code mais aussi des données et de la prise de décision automatisée".

Une telle révélation porterait atteinte au secret des affaires et aux droits de propriété intellectuelle. Par exemple, en matière bancaire, l’algorithme qui aide le conseiller à se décider pour l’obtention d’un financement, peut reposer sur des choix stratégiques et notamment sur des éléments confidentiels sur lesquels la banque s’est appuyée et n’a pas à être divulguer au risque de dévoiler des informations concurrentielles capitales pour cette dernière.

Enfin, la publication du code ne revêt guère d’utilité dans la mesure où il reste difficilement lisible voire compréhensible tant pour un juriste que pour un consommateur lambda. Le langage informatique constitue souvent un obstacle devant les Juges que les experts informatiques permettent en principe de pallier.

La divulgation n’est intéressante que pour le régulateur ou les autorités publiques et pourrait nuire à la transparence dans son acception traditionnelle. Mais, en fait, le droit algorithmique porte à une nouvelle approche du concept de transparence, plus empreint de compréhension.

Transparence et compréhension
En matière algorithmique, la transparence consiste à mettre à disposition des utilisateurs (consommateurs ou autres) les moyens de comprendre le procédé algorithmique et ses résultats, par une explication tant organisationnelle que technique.  

Cette explication doit s’articuler autour du fonctionnement du procédé algorithmique, dans ses principaux paramètres, et dans la qualité des données entrées. En cas de difficultés, le concepteur de l’algorithme doit pouvoir être en mesure d’expliquer et de démontrer au client que le jeu de données qui le concerne est exempt de biais lorsqu’il s’appuie sur le seul algorithme pour prendre une décision, tout comme l’évoque la 2ème règle du 5ème Principe de la Déclaration de Montréal pour un développement responsable de l'Intelligence Artificielle de 2018.

Entre la mise à disposition d’une information claire et accessible et la divulgation d’un code indéchiffrable pour le consommateur lambda, le choix est vite fait.

Transparence et évaluation
La compréhension, parce qu’elle demande une maîtrise des principaux mécanismes du système, ne peut se passer d’une évaluation afin de s’assurer techniquement que le processus fonctionne de manière acceptable. Des obligations circonstanciées de reporting et d’audit pour ce qui concerne les décisions prises en s’appuyant principalement sur un algorithme pourraient être établies à l’aune de ce que pourrait proposer le futur Digital Services Act concernant la loyauté des plateformes en cours de consultation et en cours de rédaction (une proposition devrait être établie pour la fin d’année).

Cette obligation viendrait en complément de celle déjà présente dans le Règlement P2B qui précise déjà dans son article 6 :
"Les fournisseurs de services d’intermédiation en ligne et les fournisseurs de moteurs de recherche en ligne ne sont pas tenus, lorsqu’ils satisfont aux exigences du présent article, de divulguer les algorithmes ou les informations dont on peut être raisonnablement certain qu’ils auraient pour effet de permettre de tromper les consommateurs ou de leur porter préjudice par la manipulation des résultats de recherche. Le présent article est sans préjudice de la directive (UE) 2016/943".

Pour conclure, le Droit algorithmique va nécessiter la mise en place d’une documentation pédagogique facilement accessible. Pour ce faire, la mise en place d’un macroprocess (pré)contentieux permettra d’identifier les grandes étapes (de l’élaboration de l’algorithme jusqu’à sa mise à jour ou à l’explication d’un résultat donné) en fonction des rôles de chaque acteur et de leur degré d’implication dans le procédé algorithmique.

Pascal Agosti, avocat associé, docteur en droit
Caprioli & Associés, société d’avocats membre du réseau JurisDéfi



Les avis d'experts sont publiés sous l'entière responsabilité de leurs auteurs et n'engagent en rien la rédaction de L'Usine Digitale.

Réagir

* Les commentaires postés sur L’Usine Digitale font l’objet d’une modération par l’équipe éditoriale.

 
media