Twitter fonctionne-t-il selon des critères racistes? C’est ce qu’affirment des centaines d’internautes qui ont mis à l’épreuve son algorithme de recadrage de photo. Afin que les publications prennent moins de place sur le fil principal, l’entreprise ne souhaite montrer que la partie jugée la plus importante d’une photo. Or, les visages blancs semblent être systématiquement préférés aux visages noirs.
C’est le doctorant Colin Madland qui a été un des premiers à avoir découvert la faille, après avoir observé un problème de détection des visages sur la plateforme de vidéo-conférence Zoom. Lorsqu’il a remplacé l’arrière-plan de son interlocuteur noir, la tête de ce dernier a complètement disparu.
any guesses? pic.twitter.com/9aIZY4rSCX
— Colin Madland (@colinmadland) September 19, 2020
Il a alors fait un test sur Twitter en publiant une capture d’écran au format large, toujours avec lui d’un côté, l’homme noir de l’autre. Le réseau social coupe simplement la photo en deux, pour ne montrer que le visage de Colin Madland, jamais celui de son correspondant.
D’autres utilisateurs ont effectué des tests similaires, notamment avec une photo affichant le sénateur républicain Mitch McConnel avec Barack Obama. Même en inversant les deux visages, l’algorithme choisit de montrer la partie de l’image où figure le visage blanc. Même constat avec une photo contenant une dizaine de fois un homme noir et une seule fois un homme blanc, c’est uniquement ce dernier qui figure sur la photo recadrée.
Trying a horrible experiment...
— Tony “Abolish (Pol)ICE” Arcieri 🦀 (@bascule) September 19, 2020
Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia
lets check if Twitter is racist pic.twitter.com/PBGoPv5f1O
— $tiletto 💫 (@616clique) September 21, 2020
Explications d’un développeur
Dantley Davis, en charge du design de l’application, a répondu à la publication de Colin Madland, expliquant que ce n’est pas la couleur de peau qui définit le recadrage automatique mais le taux de contraste du visage. D’après lui, sa barbe foncée sur sa peau blanche en serait la cause. Il a démontré son hypothèse en blanchissant la barbe de Colin, résultant en un changement de préférence de l’algorithme qui a cette fois affiché son interlocuteur noir.
Based on some experiments I tried, I think @colinmadland's facial hair is affecting the model because of the contrast with his skin. I removed his facial hair and the Black man shows in the preview for me. Our team did test for racial bias before shipping the model. pic.twitter.com/Gk33NQlGgB
— Dantley 🔥✊🏾💙 (@dantley) September 19, 2020
Dans un article publié en 2018, l’ingénieur logiciel de la plateforme, Zehan Wang, a quant à lui assuré que des tests de biais ethniques avaient été effectués avant que l’algorithme ne soit mis en place. Le logiciel ne détecte d’ailleurs pas les visages, explique-t-il, mais tente de déceler les «zones saillantes» de l’image. Il a réagi à la polémique ce 20 septembre, assurant que de nouveaux tests seraient effectués afin que l’algorithme soit amélioré.
