Dans une lettre ouverte, des employés d’Amazon exhortent Jeff Bezos à cesser de vendre des technologies de reconnaissance faciale au renseignement américain.
À voir aussi sur Konbini
“Cher Jeff”, arrête de faire n’importe quoi. Après Google, après Microsoft, c’est au tour des employés d’Amazon d’avoir des dilemmes moraux. Le 22 juin, Gizmodo s’est procuré et a publié une lettre ouverte qui circulerait parmi les employés du géant américain de la distribution pour réclamer à Jeff Bezos, PDG de l’entreprise, la fin des contrats passés avec le renseignement et les forces de l’ordre américains, en vertu des risques de “blesser les plus marginalisés”.
Le 22 mai dernier, des documents obtenus par l’association américaine de défense des droits civiques (ACLU) révélaient qu’Amazon était en pleine opération de séduction auprès de différents services de police pour leur vendre Rekognition, une technologie de reconnaissance faciale en direct. Hébergé sur un serveur à distance (cloud), le programme est capable d’identifier plus d’une centaine de personnes sur une seule image à partir d’une base de données de dizaines de millions de visages, portraits-robots et photos d’identité judiciaire (les fameux mugshots) de personnes interpellées ou recherchées, mais aussi via les caméras de surveillance locales ou celles portées par les agents (les body cams).
Selon les documents, plusieurs services de police locaux auraient déjà passé contrat auprès d’Amazon, à Orlando et Washington (Oregon) notamment. Et ce alors que même les forces de l’ordre trouvent l’outil un poil trop dystopique : dans les emails obtenus par l’ACLU entre Amazon et l’administration de Washington County, cette dernière révèle les inquiétudes du shérif local à l’idée d’implanter le service, par peur de passer pour le Big Brother du coin. Dès la publication des documents, 40 associations américaines de défense de la vie privée avaient publié une lettre ouverte réclamant la fin de la collaboration entre Amazon et la police américaine… Sans succès.
Immigration, renseignement et camps de détention
Depuis, Amazon a trouvé un autre client, encore moins fréquentable que le shérif local : Palantir. Pour rappel, Palantir (qui tire son nom d’un artefact magique de J.R.R. Tolkien permettant à son détenteur d’observer tout ce qu’il souhaite), c’est la start-up omniprésente et invisible de Peter Thiel, valorisée à 20 milliards de dollars, qui développe discrètement des technologies de surveillance de masse basées sur le big data et murmure à l’oreille de Trump et de la NSA. Elle collabore même avec la Direction générale de la sécurité intérieure (DGSI) française, moyennant un contrat à 10 millions d’euros. Entre les logiciels d’analyse de Palantir et les systèmes de reconnaissance d’Amazon, l’idylle crevait les yeux. Jusqu’à ce que les salariés s’en mêlent.
À lire le texte de la lettre ouverte, les revendications des employés sont multiples : d’une part, bouter Palantir hors du cloud de Rekognition et, d’autre part, cesser de passer des contrats avec les forces de l’ordre de l’administration Trump, notamment à la lumière du récent scandale de la gestion des familles d’immigrés illégaux dans des camps de détention (sponsorisés par Palantir). “Comme le reste du monde, nous avons vu avec horreur les autorités américaines arracher des enfants à leurs parents”, écrivent-ils dans la lettre, distribuée par email sous l’objet “nous-ne-le-construirons-pas” (une formulation qui fait écho à l’un des chants de ralliement des supporters de Trump, “construisez le mur !”).
“Confrontés à une politique américaine immorale et au traitement de plus en plus inhumain infligé aux réfugiés et immigrants au-delà de cette politique spécifique, nous sommes profondément inquiets de constater l’implication d’Amazon, qui fournit des infrastructures et des services à l’ICE et le DHS (le service de l’immigration et le département de la sécurité intérieure, ndlr)“, s’émeuvent les employés, qui n’hésitent pas à comparer la collaboration de leur entreprise avec celle d’IBM, qui fournissait généreusement des calculateurs au régime nazi dans les années 1940.
Parts de marché contre éthique de travail
Plus tôt dans la semaine, 19 “actionnaires responsables” d’Amazon avaient exprimé les mêmes craintes au sujet de la mise à disposition de Rekognition pour le renseignement américain, craignant sans doute que la réputation et la valeur boursière de l’entreprise en pâtissent. Aujourd’hui, ce sont donc les employés qui leur emboîtent le pas. La méthode rappelle celle appliquée récemment chez deux autres géants de la technologie, Microsoft et Google, qui ont eux aussi vécu quelques remous d’ordre moral ces dernières semaines.
Le 19 juin, des employés de Microsoft avaient vertement critiqué l’entreprise pour ses relations avec les services de l’immigration (ICE), qui utilisent le service d’hébergement de données à distance Azure du géant de Redmond, obligeant son PDG Satya Nadella à détailler publiquement les modalités du contrat. Début juin, c’est à Mountain View que la vox populi salariale tonnait lorsque les salariés protestaient, certains allant jusqu’à démissionner, contre le renouvellement d’un contrat de recherche entre Google et le département de la Défense, nommé Project Maven, dans lequel Google utilisait ses algorithmes pour apprendre aux drones militaires à mieux reconnaître leur environnement. Face à la grogne, l’entreprise avait fait machine arrière, annoncé l’abandon du contrat et la publication de nouveaux principes éthiques. Your move, Jeff Bezos. Il est plus que temps de faire le choix entre parts de marché et éthique d’entreprise.
