Amazon a mis au point en 2014 un programme informatique secret basé sur l’intelligence artificielle (IA) pour le recrutement de ses effectifs. Le géant informatique y a renoncé trois ans plus tard après avoir découvert une faille majeure dans le système : il n’aimait pas les femmes.
Amazon a voulu développer et utiliser un système similaire à son système d’automatisation utilisé dans les entrepôts qui a été la clé de sa domination d’Amazon dans le commerce électronique aux embauches. “Ils voulaient littéralement que ce soit un moteur dans lequel on met 100 CV et il ressort les cinq meilleurs en vue de leur recrutement”.
Le programme était capable d’examiner le curriculum vitae des candidats afin d’automatiser le processus de recrutement en attribuant une note d’une à cinq étoiles selon les profils.
En 2015, Amazon s’est cependant rendu compte que le système notait les candidats aux postes de développeur de logiciel et aux autres postes techniques de manière sexiste.
Cela s’expliquait par le fait que le modèle informatique utilisé par Amazon s’appuyait sur les CV reçus par le groupe sur une période de dix ans, qui étaient pour la plupart ceux des hommes, reflet de la prédominance masculine dans le secteur des nouvelles technologies.
En étudiant ces CV, le système en est venu à déduire que les candidats masculins pour ces postes étaient préférables, ce qui l’amenait à rejeter les candidatures où figuraient une référence aux “femmes”, comme dans la phrase “capitaine de club d’échecs féminin”.
Le système a aussi abaissé les notes de deux candidates diplômées d’universités exclusivement féminines, selon les sources.
Le géant du commerce en ligne a finalement dissout l’équipe au début de l’année 2017
[…] Lire aussi: L'Etrange Histoire du Logiciel Misogyne d'Amazone […]