Recevez chaque jour toute l'actualité du numérique

x

RGPD : Les algorithmes d'Amazon et Airbnb dans le viseur de Noyb

Amazon et Airbnb respectent-ils le RGPD ? L'association autrichienne Noyb a déposé deux plaintes à leur encontre. En cause : leurs algorithmes conduisant à prendre des décisions aux effets significatifs, qui ne peuvent pas être contestées ou même comprises par les plaignants.
Twitter Facebook Linkedin Flipboard Email
×

RGPD : Les algorithmes d'Amazon et Airbnb dans le viseur de Noyb
RGPD : Les algorithmes d'Amazon et Airbnb dans le viseur de Noyb © Pixabay/TeroVesalainen

Nouvelle offensive judiciaire pour Noyb. L'association autrichienne None of Your Business, spécialisée dans la protection des droits numériques, a déposé deux plaintes les 21 et 22 décembre à l'encontre d'Amazon et Airbnb. Dans le viseur de l'association présidée par le militant Max Schrems : les algorithmes de ces plateformes qui prennent des décisions aux conséquences lourdes, sans qu'il soit possible de les contester ou de comprendre ce qui a conduit l'algorithme à les prendre.

L'algorithme de recrutement de Mechanical Turk
Pour Amazon c'est sa filiale Mechanical Turk qui est en cause. Cette plateforme met en contact des entreprises et des travailleurs indépendants, localisés aux quatre coins du monde. Ces travailleurs réalisent des micro-tâches contre une rémunération. Il s'agit souvent de tâches dans les domaines de l'intelligence artificielle, comme la labellisation d'images, la modération de contenu en ligne ou l'analyse de contenu d'image.

La plainte a été déposée auprès de la Cnil luxembourgeoise (CNPD). En cause : l'algorithme utilisé par Amazon pour accepter ou rejeter les travailleurs sur Mechanical Turk. Les candidats ne peuvent pas contester cette décision ni même comprendre les critères amenant à cette décision. Mechanical Turk "se réserve le droit de refuser automatiquement l'accès à sa plateforme", écrit Noyb.

La plaignante, qui s'est rapprochée de Noyb, a reçu un tel message de refus. "Ce qui m'a le plus surprise, c'est que l'e-mail automatisé qui m'a été envoyé indiquait clairement que cette décision avait été prise sur la base de critères préétablis, et que ces critères ne me seraient pas divulgués car Amazon les considérait comme 'propriétaires'", a-t-elle déclaré.

Une nouvelle directive européenne
Malgré de nombreuses demandes pour comprendre cette décision, la plaignante n'a jamais reçu de réponse de la part d'Amazon. Mais le RGPD, dans son article 22, indique que "les individus ont le droit de ne pas être soumis à une prise de décision automatisée", précise Noyb. L'association rappelle également, que le CNPD a récemment infligé une amende record de 746 millions d'euros à l'encontre d'Amazon pour violation du RGPD. Dans cette affaire, Amazon était accusé de traiter des données personnelles sans base légale afin de réaliser des analyses comportementales et un ciblage publicitaire.

A noter que la Commission européenne a récemment dévoilé sa proposition de directive réglementant les plateformes en ligne et l'économie des "petits boulots" ("gig economy"). Au-delà de la présomption de salariat, la directive comporte une obligation de transparence sur les algorithmes utilisés par ces plateformes. Est notamment inscrite une obligation d'information sur la façon dont les décisions sont prises, et l'obligation que les décisions prises par ces algorithmes ayant un impact significatif soient revues par des humains.

Airbnb et sa gestion des avis
La deuxième plainte est déposée par Noyb en Allemagne à l'encontre de Aibnb. Comme dans l'affaire Amazon, c'est un algorithme qui est en cause. Ces derniers sont utilisés par Airbnb pour vérifier que les avis laissés sur la plateforme sont conformes à sa politique. Les avis non conformes sont automatiquement supprimés.

La plaignante s'est ainsi vue supprimer un avis 5 étoiles. Or, les évaluations sont très importantes sur Airbnb. Elles permettent par exemple de devenir "superhôte" lorsqu'une note moyenne de 4,8 étoiles est maintenue. "La place de marché en ligne pour les locations de vacances a dégradé la note du plaignant en tant qu'hôte, uniquement par le biais d'une prise de décision automatisée", écrit l'association. Par la suite, Airbnb aurait refusé au plaignant la possibilité de contester la décision et d'obtenir une intervention humaine.

Réagir

* Les commentaires postés sur L’Usine Digitale font l’objet d’une modération par l’équipe éditoriale.