L’algorithme de Facebook a confondu des personnes noires avec des primates

Sur Facebook, après avoir visionné une vidéo mettant en avant des personnes noires, certains internautes ont reçu une proposition pour le moins étrange, leur demandant s’ils souhaitaient « voir plus de vidéos de primates ».

Facebook est depuis quelques jours au cœur d’une énorme polémique raciste. En effet, suite à une vidéo publiée par le Daily Mail en 2020 présentant des personnes noires, la suggestion de l’algorithme était de continuer à regarder des vidéos de primates.

Cette information a été révélée à la suite d’un tweet de Darci Groves, ancienne designer de Facebook, qui a partagé une capture d’écran qui a mis le feu aux poudres. Le réseau social s’est empressé de réagir.

Un porte-parole a déclaré « C’est clairement une erreur inacceptable » avant d’ajouter « Nous présentons nos excuses à quiconque a vu ces recommandations insultantes ». Une enquête est en cours pour comprendre d’où a pu venir ce problème et l’outil de recommandation est pour l’instant inactif. Cette énorme erreur démontre une fois de plus à quel point les intelligences artificielles peuvent être faillibles et parfois peu adaptées aux personnes qui ne sont pas blanches.

Facebook déjà accusé de racisme précédemment

L’information secoue la toile depuis quelques jours et remet sur le devant de la scène certaines anciennes accusations racistes à l’encontre de Facebook. En effet, ce n’est pas la première fois que le groupe est pointé du doigt pour sa supposée discrimination envers les personnes racisées. En 2019, certains employés avaient dénoncé ces inégalités et souligné que Facebook était « hostile à tout ce qui n’est pas blanc ».

La corrélation entre personnes noires et primates n’est sans doute pas un acte délibérément raciste et découle d’une erreur d’algorithme. Pourtant, cela révèle un réel souci de représentation sur les réseaux sociaux, où les personnes noires sont encore trop souvent invisibilisées.