Amazon travaillait, dans le plus grand des secrets, sur le développement d’une intelligence artificielle (IA) depuis plusieurs années qui écartait, dans certains cas, de nombreux profils féminins.

Une petite équipe de concepteurs en informatique avait été fondée en 2014 par Amazon, afin de créer un logiciel capable d’automatiser l’analyse de CV pour faire ressortir les profils les plus intéressants, quel que soit le poste.

Il était question d’attribuer une note en fonction de l’intérêt du profil en allant de 1 à 5 étoiles, à la manière de la notation du site de vente en ligne.

Sauf qu’en 2015, l’entreprise se rend compte que ce système n’évaluait pas correctement les profils techniques de manière neutre, puisque ceux comportant le mot « femme » étaient systématiquement écartés de la pile.

En cause, une trop grande proportion de CV masculins ayant servi de base d’étude à cette IA pour les postes les plus techniques, dû à un manque de CV féminins à lui proposer.

« Il était question d’élaborer un logiciel et de lui donner 100 CV, d’en faire ressortir 5 pour ensuite les recruter » comme le rapporte une source anonyme.

Par la suite, le logiciel a été modifié de manière à rendre cette évaluation beaucoup plus neutre, sans toutefois garantir qu’un autre paramètre soit discriminant.

Ce système d’analyse de profil n’a servi que de base lors d’une recherche de nouvel employé, sans que les recruteurs ne s’appuient totalement sur les recommandations effectuées par le logiciel.

Afin de faire le maximum d’économies, Amazon essaye d’automatiser le maximum de tâches possibles, en essayant d’appliquer ce modèle à la recherche de nouveaux profils, sauf que l’expérimentation n’a pas aussi bien fonctionné que l’entreprise l’aurait voulu.

Depuis 2015, le nombre d’employés du géant du e-commerce a plus que triplé, en automatiser ne serait-ce qu’une partie du recrutement permettrait de faire de précieuses économies. Cependant, il semblerait que l’usage exclusif d’une telle technologie ne soit pas pour toit de suite.

D’ ailleurs, cette équipe de concepteur a été démantelée début 2017, mais il semblerait qu’une autre ait été fondée en se concentrant davantage sur le sujet de la diversité.