Un député français dépose une plainte contre ChatGPT auprès de la Cnil

C’est déjà (au moins) la troisième plainte déposée auprès de la Cnil contre ChatGPT. Mercredi 12 avril, le député Eric Bothorel a indiqué avoir saisi le gendarme français des données personnelles. Il reproche au robot conversationnel de diffuser des informations incorrectes, ce qui pourrait représenter une violation du Règlement général sur la protection des données personnelles (RGPD).

Sur Twitter, l’élu de la majorité présidentielle, un temps pressenti pour devenir ministre du numérique, a publié plusieurs captures d’écran remplies d’erreurs factuelles. À chaque fois, sa date et son lieu de naissance sont différents - et incorrects, si l’on réfère à sa fiche Wikipedia.

ChatGPT mentionne aussi des expériences professionnelles chez Orange et Havas, qui n’apparaissent pas sur le profil LinkedIn du parlementaire. Dans une conversation, le robot explique qu’il a été maire de Lannion. Dans une autre qu’il a été maire de Saint Brieuc à la même date. Et dans un troisième qu’il n’a été que conseiller municipal de la préfecture des Côtes-d'Armor. Autant d’informations inexactes.

Toutes les conversations sont par ailleurs unanimes: Eric Bothorel est le député de la deuxième circonscription des Côtes-d'Armor. En réalité, il a été élu dans la cinquième circonscription du département. ChatGPT invente également des positions qu’il n’occupe pas à l’Assemblée nationale.

Limite technologique

Ces erreurs ne sont pas une surprise: elles sont inhérentes au fonctionnement du robot conversationnel développé par la start-up OpenAI. Celui-ci ne cherche en effet pas la bonne réponse dans la gigantesque base de données qui l’alimente. Mais il la “prédit”, ce qui se traduit par des "hallucinations".

OpenAI reconnaît d’ailleurs cette limite. “ChatGPT peut produire des informations inexactes sur les personnes, les lieux ou les faits”, prévient la start-up sur son site. Son patron Sam Altman avertit également que “cela serait une erreur de l’utiliser pour des choses importantes”.

Ces limitations technologiques pourraient cependant se heurter au RGPD, qui impose, dans son article 5, que les données personnelles soient "exactes et, si nécessaires, tenues à jour". Le texte ajoute que “toutes les mesures raisonnables doivent être prises pour que les données à caractère personnel qui sont inexactes [...] soient effacées ou rectifiées sans tarder”.

Plainte en diffamation

Ces erreurs factuelles font aussi partie de la plainte déposée par le développeur David Libeau, très actif sur les questions liées à la protection de la vie privée. “Les informations générées par ChatGPT peuvent être incorrectes [et] peuvent nuire à la réputation des personnes ou des organisations concernées”, explique-t-il, estimant que le robot conversationnel doit garantir “l’exactitude et la fiabilité de ses informations générées”.

Le problème est également au cœur d’un potentiel procès en diffamation en Australie, où un élu local reproche au service d’affirmer qu’il a été condamné dans une affaire de corruption au sein de la banque centrale australienne.

Sélectionné pour vous

Quels impacts contractuels suite à l'incendie dans les data centers d'OVHcloud ?

Twitter va devoir détailler sa politique de modération en France

“L’IA générative va entraîner des considérations juridiques nouvelles sur le droit d’auteur”