Entre risque de réidentification et profilage, comment encadrer l'open data des décisions de justice ?
Comment s'assurer que les données issues de l'open data des décision de justice soient correctement réutilisées ? C'est sur cette problématique que se sont penchés des experts du monde juridique, associatif et de l'entreprise dans un rapport venant d'être publié. Ils préconisent d'utiliser les protections déjà existantes, telles que celles issues du RGPD, et de mettre en place des actions au niveau local.
L'open data des décisions de justice n'est pas une fin en soi. C'est la réutilisation des données par les particuliers et les professionnels qui a véritablement de l'importance en pratique. Or, elle soulève de nombreuses questions sur lesquelles se sont penchées des experts de la Cour de cassation, du Conseil d'Etat, du monde la recherche universitaire, de France Digitale, du Conseil national des barreaux, de la Commission nationale de l'informatique et des libertés (Cnil) ainsi que de l'association Openlaw dans un rapport qui vient d'être publié.
C'est la loi du 7 octobre 2016 pour une République numérique qui a posé le principe de l'open data des décisions de justice. Puis le décret du 30 septembre 2021 est venu entériner la création de deux bases de données : "Décision de la justice administrative" pour le Conseil d'Etat, et "Judilibre" pour la Cour de cassation.
Une préservation de la vie privée via des occultations
Pour préserver la vie privée des personnes, les textes prévoient l'occultation systématique des noms et prénoms des personnes physiques mentionnées dans le jugement, l'occultation de tout élément permettant d'identifier des personnes physiques (parties, tiers, magistrats et membres du greffe), si sa divulgation est de nature à porter atteinte à la sécurité ou au respect de la vie privée de ces personnes ou de leur entourage et l’occultation de certaines informations sensibles. En outre, il est prévu que toute personne intéressée puisse introduire une demande d'occultation ou de levée d'occultation.
Le rapport s'interroge sur plusieurs points. En premier lieu, la pseudonymisation, contrairement à l'anonymisation, n'exclut pas le risque de réidentification. Or, cette faculté peut amener "des formes de discrimination, de harcèlement, de chantage, ou encore de reconstitution du passé pénal". Mais, dans le même temps, une anonymisation plus stricte – par le biais de suppressions, d’ajout de bruit ou de masquage – poserait quant à elle un risque vis-à-vis de "l'intelligibilité des décisions".
La seconde préoccupation concerne les risques liés à la tenue à jour des bases, à la durée de conservation et à la commercialisation des données en dehors de l'Europe. Les risques de profilage, tant des magistrats ou des juridictions que des avocat ou des entreprises, doivent être prises au sérieux.
Des données pouvant alimenter des algorithmes prédictifs
Le rapport pointe également du doigt les risques induits par les outils d'analyse prédictive. En effet, les données issues des décisions de justice peuvent servir à développer des systèmes d'apprentissage automatique pour, par exemple, prédire l'issue d'une procédure. Ces derniers pourraient conduire à "une forme de performativité et de frein à la créativité des juges".
Pour encadrer ces risques, les experts mentionnent plusieurs textes : le Règlement général sur la protection des données (RGDP), le projet de règlement européen sur l'intelligence artificielle et un certain nombre d'initiatives internationales et européennes, tel que le Partenariat mondial sur l'IA. Des groupes de travail ont également été lancés au niveau de la Cour de cassation. Ils travaillent sur l'élaboration d'une doctrine d'harmonisation des occultations complémentaires. Ils ont préconisé l’établissement d’un système par type de contentieux, la mise en œuvre d’un circuit identifié pour le traitement des occultations complémentaires ainsi qu'une évolution des termes de remplacement des entités occultées dans les décisions.
D'autres actions ont également été citées, telles que la création de "bacs à sable" pour trouver un équilibre entre innovation et principe de précaution, l'accompagnement des porteurs de dossiers lors du processus de certification, la formation du personnel à l'IA...
Sélectionné pour vous
SUR LE MÊME SUJET
Entre risque de réidentification et profilage, comment encadrer l'open data des décisions de justice ?
Tous les champs sont obligatoires
0Commentaire
Réagir