Derrière la carte «sexiste» d’Apple, des algorithmes jugés trop puissants

Ni Apple, ni Goldman Sachs ne parviennent à éteindre l’affaire de la carte de crédit qui semble discriminer hommes et femmes aux Etats-Unis. Ce sont a priori des algorithmes de la banque qui créent de tels biais

Aucune explication officielle complète et encore moins des excuses: ni Apple, ni la banque Goldman Sachs ne parviennent à régler l’affaire de la carte de crédit jugée sexiste proposée par la multinationale californienne. Depuis son éclatement jeudi dernier, on ne comprend toujours pas pourquoi l’Apple Card offre, dans certains cas, des limites de crédit supérieures à des hommes qu’à des femmes, alors que tous deux sont en couple. La faute certainement à des algorithmes utilisés par Goldman Sachs, et que la banque, désormais sous enquête, devra analyser ces prochains jours.

L’affaire débute le 7 novembre lorsque David Heinemeier Hansson – entrepreneur danois et notamment créateur du système de développement Ruby on Rails

– se déchaîne via Twitter. «L’Apple Card est vraiment un putain de programme sexiste, écrit-il, ma femme et moi-même déclarons nos impôts conjointement et nous sommes mariés depuis très longtemps. Et pourtant l’algorithme «boîte noire» d’Apple pense que j’ai le droit à une limite de crédit 20 fois plus élevée qu’elle», a-t-il continué.

Trois jours plus tard, Steve Wozniak, cofondateur d’Apple, corrobore ces propos. Il découvre que l’Apple Card lui offre une limite de crédit dix fois plus élevée que celle de son épouse. «Nous n’avons pas de comptes bancaires séparés, ni de cartes de crédit, ni d’actifs d’aucune sorte, écrit Steve Wozniak. Nous avons tous les deux les mêmes limites élevées sur nos cartes […]. Mais la différence est multipliée par 10 sur la carte Apple.»

Enquête ouverte

Les exemples se multiplient, incitant le Département des services financiers de New York à ouvrir une enquête «pour déterminer si la loi de New York a été enfreinte et nous assurer que tous les consommateurs sont traités de manière égale quel que soit leur sexe».

Les regards se sont immédiatement tournés vers Apple – sur sa carte de crédit en titane est en effet écrit «Créé par Apple, pas par une banque». Mais voilà, le géant de la tech a affirmé que c’était à Goldman Sachs de répondre, sa carte de crédit s’appuyant totalement sur les services de la banque. «Nos décisions en termes de crédit sont fondées sur la solvabilité des clients et non pas sur le genre, la race, l’âge, l’orientation sexuelle ou tout autre facteur interdit par la loi», a répondu Goldman Sachs.

La situation devient embarrassante pour Apple, note le site spécialisé The Verge. La multinationale, habituée à contrôler de bout en bout la chaîne de production de ses produits et de ses services, ne maîtrise pas des éléments fondamentaux de sa carte, telles l’éligibilité et la limite de crédit. Goldman Sachs ne donne pas non plus l’impression de maîtriser ses algorithmes. Après avoir dans un premier temps refusé de donner des explications, son directeur pour les Etats-Unis s’est exprimé lundi soir via Twitter, affirmant que si des clients ont reçu des limites jugées trop basses, c’est entre autres parce que «leurs cartes de crédit existantes sont des cartes supplémentaires liées au compte principal de leurs épouses».

Cette explication n’a pas du tout convaincu l’épouse de David Heinemeier Hansson. Sur Medium, Jamie Heinemeier Hansson a publié un texte accusant le géant de la tech et la banque d’accorder trop de confiance à des algorithmes biaisés. «Nous ne pouvons pas nous incliner face aux algorithmes. Nous ne pouvons pas dériver vers un monde à la Black Mirror [du nom de la série TV d’anticipation, ndlr]. Apple peut et doit être meilleur que ça. Nous devrions tous être meilleurs que ça.»

▅

La femme de Steve Wozniak, cofondateur d’Apple, s’est vu imposer une limite de crédit dix fois inférieure à celle de son mari