Recevez chaque jour toute l'actualité du numérique

x

L'algorithme derrière l'Apple Card serait sexiste

Selon plusieurs témoins proéminents, l’algorithme qui se cache derrière la nouvelle carte de crédit d’Apple se montrerait nettement défavorable aux femmes. Une enquête vient d’être ouverte par le département des services financiers de l’Etat de New-York (Etats-Unis) pour faire la lumière sur des accusations de sexisme qui se multiplient.
mis à jour le 13 novembre 2019 à 00H00
Twitter Facebook Linkedin Flipboard Email
×

L'algorithme derrière l'Apple Card serait sexiste
L'algorithme derrière l'Apple Card serait sexiste © Apple

La nouvelle carte de crédit d’Apple serait-elle sexiste ? C’est ce qu’a rapporté le développeur David Heinemeier Hansson, créateur notamment de Ruby on Rails, sur Twitter le samedi 9 novembre 2019. Il a relevé avec stupéfaction que son autorisation de dépenses était jusqu’à vingt fois supérieure à celle de son épouse… avec laquelle il déclarerait pourtant ses revenus de manière conjointe, et que l’évaluation de son risque-client par les banques serait moins bonne que celle de sa femme.

 

UN ALGORITHME OPAQUE

"Apple piétine sa réputation d’organisation inclusive au profit d’un algorithme terriblement sexiste, ingérable. Ou comment une entreprise valorisée à trois milliards de dollars accepte tranquillement de se soumettre à un algorithme", se lamente le développeur. Après que les signalements de ce dernier ont fait le tour du Web, d’autres clients ont fait part à la firme de Cupertino d’expériences similaires.

 

Steve Wozniak en fait partie. Le cofondateur d’Apple déclare, lui, avoir obtenu un plafond "dix fois plus élevé" que celui de sa compagne… et va jusqu’à appeler l’administration à mener l’enquête. "Aucune transparence n’est faite en ce qui concerne la manière dont ces entreprises technologiques mettent en place les algorithmes, puis les opèrent", a indiqué Steve Wozniak à nos confrères de Bloomberg. C’est ce que prévoit de faire le département des services financiers de l’Etat de New York, qui a annoncé via une note de blog qu’il s’apprête à lancer une investigation dans le but de "rendre l’industrie plus juste".

 

 

UNE éPINE DANS LE PIED D’APPLE

David Heinemeier Hansson dit s'être rapidement rapproché du service client d’Apple, qui a depuis relevé le plafond de son épouse. On l’a néanmoins prévenu : il s’agit là d’une réponse isolée, au cas par cas. L’algorithme incriminé ne pourra être revu dans son ensemble. "Personne ne le comprend. Personne n’a le pouvoir de l'examiner ou de le vérifier. Toutes les personnes avec qui nous avons pu nous entretenir chez Apple ou Goldman Sachs [son partenaire bancaire sur ce projet, N.D.L.R.] nous assurent que l’algorithme n’est ni biaisé, ni discriminant", a pointé le développeur, non sans ironie.

 

 

Par voie de communiqué, GS a dit ne "jamais prendre de décision sur la base de facteurs tels que le genre", mais plutôt en fonction "des revenus et de la solvabilité individuels". Ce qui expliquerait, selon la banque, que deux personnes d’un même foyer n’aient pas nécessairement le même plafond. Cette polémique constitue cependant une épine dans le pied d’Apple, qui, au lancement de sa carte de crédit, promettait de "transposer [sa] simplicité et [sa] transparence au monde obscur de la finance".

Réagir

* Les commentaires postés sur L’Usine Digitale font l’objet d’une modération par l’équipe éditoriale.

 
media