La Cnil lance un plan d'action sur l'intelligence artificielle générative
Le gendarme des données personnelles souhaite "instaurer des règles claires, protectrices des données personnelles des citoyens européens afin de contribuer au développement de systèmes d’IA respectueux de la vie privée”.
La Cnil veut encadrer l’émergence de l’intelligence artificielle générative. Mardi 16 mai, la Commission nationale informatique et liberté a présenté un plan d’action. Son objectif : "instaurer des règles claires, protectrices des données personnelles des citoyens européens afin de contribuer au développement de systèmes d’IA respectueux de la vie privée”.
Depuis l’arrivée du robot conversationnel ChatGPT, lancé fin 2022 par la start-up américaine OpenAI, de nombreuses questions se posent sur le respect des règles européennes sur la protection des données personnelles. En Italie, les autorités ont ainsi décidé de bloquer, temporairement, le service.
Des plaintes auprès de la Cnil
En France, ChatGPT est également visé par au moins trois plaintes déposées auprès de la Cnil. Elles portent sur la collecte de données mais aussi sur les nombreuses erreurs factuelles incluses dans ses réponses. À l’échelle du continent, l’organisation regroupant l’ensemble des régulateurs européens a lancé une task force sur ChatGPT, afin de “favoriser la coopération et l’échange d’informations sur de possibles actions”.
L’IA générative ne faisait initialement pas partie des priorités que le régulateur français s’était fixées pour 2023. Le succès de ces outils l’a cependant poussé à réagir. Son plan d’action se compose de quatre volets, qui incluent quelques mesures concrètes. Il sera mené par un nouveau service, entièrement dédié à l’intelligence artificielle.
Comprendre le fonctionnement
La Cnil souhaite d'abord “appréhender le fonctionnement des systèmes d’IA”. Elle cherchera ainsi à déterminer comment sont utilisées les données transmises par les utilisateurs et les données publiquement accessibles sur Internet, en particulier dans l'entraînement des modèles d’IA. La Cnil veut également étudier la question d’éventuels biais et discriminations, ainsi que les enjeux de sécurité liés à ces outils.
Le deuxième volet de son plan d’action vise à préparer l’entrée en vigueur du prochain règlement européen sur l’intelligence artificielle, encore en négociations au sein des institutions de l’UE. La Cnil promet ainsi de publier, à partir de cet été, des recommandations concrètes pour les fournisseurs de systèmes d’IA générative.
Procédure de contrôle
Troisième volet : “accompagner les acteurs innovants de l’écosystème IA”, pour leur permettre de mieux appréhender les enjeux liés aux réglementations sur la protection des données. Enfin, la Cnil va mener des audits et des contrôles, notamment dans le cadre des plaintes déposées à l’encontre d’OpenAI.
L’approche de la Cnil s’inscrit dans la lignée des récentes déclarations de Jean-Noël Barrot, le ministre délégué au Numérique, qui préconisait un encadrement de l’IA générative dans le cadre de la réglementation plutôt qu’un blocage de ces nouveaux outils.
