CYBAmazon a dû abandonner un projet d’intelligence artificielle, mis en place en 2014, servant à trier les CV de personnes postulant aux différentes offres d’emploi. L’entreprise s’est rendu compte que le programme, mal entraîné, rejetait les candidatures des femmes aux postes techniques. Le géant de l’e-commerce a renoncé à l’utilisation de ce programme en 2017.
Ne comptez peut-être pas sur l’intelligence artificielle (IA) pour promouvoir l’égalité entre les femmes et les hommes. Un programme développé par Amazon, chargé d’aider au recrutement, a été arrêté quand les ingénieurs se sont rendu compte qu’il faisait preuve de discrimination en écartant les femmes de certains postes, rapporte Reuters mercredi 10 octobre. L’entreprise américaine en a stoppé l’utilisation en 2017.
Des notes de 1 à 5
L’outil avait été développé en 2014 par le géant de l’e-commerce. Il devait permettre de passer en revue les CV des candidats à un poste dans l’entreprise, dans le but de faciliter la recherche des meilleurs talents. « Ils voulaient littéralement que ce soit un moteur dans lequel je vais vous donner 100 curriculum vitae, en sortiront les cinq meilleurs, et nous les embaucherons », explique une source à Reuters.
Doté d’une intelligence artificielle, le programme donnait aux candidats une note allant de 1 à 5, à la manière d’un produit vendu en ligne. Mais en 2015, les équipes se sont rendu compte que l’outil de tri notait systématiquement mal les candidates aux postes techniques comme ceux de développeur web ou d’informaticien. Et la raison en était simple.
Mauvais entrainement de l’IA
Pour entraîner le programme, les concepteurs ont utilisé les profils de salariés embauchés entre 2004 et 2014… soit très majoritairement des hommes. L’IA en a donc logiquement conclu que les hommes convenaient mieux à ces postes. En repérant certains mots comme « femme » (women), le programme écartait les candidatures féminines. Deux diplômées d’une université pour femmes ont ainsi été automatiquement déclassées.
Amazon a bien essayé de corriger le problème en entraînant son IA d’une autre manière, mais le programme a trouvé d’autres manières d’être discriminant envers les candidates. En 2017, le projet a été totalement abandonné. Pour sa défense, Amazon a tenu à préciser que ses embauches ne se faisaient pas uniquement sur les critères établis par l’IA. Le groupe américain a rappelé son engagement dans la promotion de la diversité et l’égalité.
