Par Pierre Schneidermann

Palme d’or du biais algorithmique.

© codeus/Konbini

Elle fut en service de 2014 à début 2017. Expérimentale, elle était destinée à vivre plus longtemps, mais les cadres d’Amazon, face à la mésaventure, en ont décidé autrement. L’IA dont il est question était chargée de faire un premier tri des CV pour assister les RH dans la quête des meilleurs talents, attribuant une note entre 1 et 5 aux candidat·e·s. Pas d’bol, on s’est rendu compte qu’elle donnait beaucoup moins de chances aux femmes.

L’information nous est livrée par Reuters, auprès de qui plusieurs personnes impliquées dans le projet se sont confiées, sous condition d’anonymat. On apprend qu’il n’y avait pas de mauvaise volonté au départ. L’IA avait été programmée pour être "neutre" sur les questions de genre. Mais les algorithmes en avaient décidé autrement. Le propre du "machine learning" étant de s’éduquer soi-même sans intervention humaine, l’IA s’était forgé ses propres outils d’analyse sans se soucier le moins du monde des questions éthiques.

Il s’agit d’un exemple de plus, ô combien frappant dans ce cas particulier, des fameux "biais algorithmiques", facteurs potentiels de discriminations, qui peuvent survenir quand l’ordinateur prend la relève. Ici, la raison est simple : l’IA, pour ses recommandations, se basait sur l’analyse des CV envoyés les dix années précédentes à Amazon. Or, et c’est un phénomène connu, la tech était déjà dominée par les hommes. Ce recruteur algorithmique s’est donc borné à répéter le modèle de l’Ancien Monde. Les progressistes apprécieront.

Outre le problème éthique, ce procédé automatisé a été ou aurait été (on ne sait pas à quel point les recruteurs d’Amazon ont fait confiance aux algos) économiquement stupide : les CV mis en avant ne correspondaient pas forcément aux personnes les plus qualifiées.

L’exemple d’Amazon est frappant, parce que c’est Amazon, impératrice de la tech, déesse de nos lendemains. Mais l’enquête de Reuters élargit le spectre. 55 % des DRH américains affirmaient, en 2017, que l’IA les assisterait au quotidien. Quant au géant LinkedIn, détenu par Microsoft, on sait que les algorithmes mettent aussi leur museau dans le tri préalable des candidats. Même si l’un des vice-présidents de l’entreprise affirme ne pas leur faire confiance pour le moment, ils – et beaucoup d’autres – nagent en eaux troubles et opaques.