Recevez chaque jour toute l'actualité du numérique

x

La destruction d'algorithme, nouvelle arme de dissuasion massive de la FTC

Vu ailleurs Le régulateur américain de la concurrence, la Federal Trade Commission, semble décidé à sanctionner les entreprises coupables de violation de la loi sur les données personnelles, en plus des amendes habituelles, en les obligeant à détruire les programmes développés à l'aide des données collectées de manière illicite.
Twitter Facebook Linkedin Flipboard Email
×

La destruction d'algorithme, nouvelle arme de dissuasion massive de la FTC
La destruction d'algorithme, nouvelle arme de dissuasion massive de la FTC © FTC

Il semblerait qu'une nouvelle doctrine soit en train de s'imposer au sein de la FTC, le régulateur américain de la concurrence, en matière d'application de la réglementation sur les données personnelles. Elle consiste à requérir la destruction des algorithmes, lorsqu'ils ont été développés en s'appuyant sur des données collectées de manière illicite.

Trois jugements
Le site d'information Protocol fait cette analyse à l'aune d'une décision de la FTC rendue le 4 mars, concernant WW International (anciennement Weight Watchers), auquel le régulateur a ordonné de détruire ses algorithmes d'intelligence artificielle développés à partir de données collectées auprès d'enfants sans le consentement de leurs parents. WW a également écopé d'une amende d'1,5 million de dollars, et de l'obligation de détruire les données personnelles concernées.

Il s'agit de la troisième décision de "destruction algorithmique" rendue par la FTC, et selon Protocol c'est un changement significatif. Cette approche est apparue pour la première fois en 2019 dans le cadre de l'affaire Cambridge Analytica, puis en 2021 dans une affaire concernant une application de partage de photos, Everalbum, qui avait recours à la reconnaissance faciale. Everalbum a été contrainte de détruire tous les produits construits à partir des données biométriques ainsi constituées.

nouveau levier de sanction
Auparavant, les amendes constituaient le levier principal d'action du régulateur en cas de violation des données personnelles. Aujourd'hui, la FTC aurait l'intention de systématiser cette approche de destruction algorithmique, selon plusieurs personnes interrogées par Protocol : un avocat spécialisé dans le droit des données personnelles, et un ancien membre de la FTC.

La stratégie est soutenue par Rebecca Slaughter, actuelle commissaire à la FTC, qui a eu l'occasion de s'exprimer sur le sujet : "Lorsque les entreprises collectent des données de manière illégale, elles ne devraient pas être en mesure de tirer profit ni de ces données, ni d'aucun algorithme développé grâce à celles-ci. Cette approche innovante de l'application de la loi devrait envoyer un message clair aux entreprises qui s'engagent dans la collecte illicite de données en vue d'entraîner des modèles d'IA : ça n'en vaut pas la peine."

En effet, la perspective de devoir détruire une partie de leur propriété intellectuelle pourrait s'avérer encore plus dissuasive que des amendes. Une idée pour le régulateur européen ?

Réagir

* Les commentaires postés sur L’Usine Digitale font l’objet d’une modération par l’équipe éditoriale.