featuredImage

Faut-il rendre Alexa, l’assistante intelligente d’Amazon, plus féministe ?

Comment se défendent les intelligences artificielles qui nous accompagnent au quotidien quand on les attaque ? Plutôt mal, surtout quand il s’agit de harcèlement.

Le cas Alexa

Alexa n’est pas n’importe qui. L’assistante "intelligente" d’Amazon, qui communique exclusivement en langues anglaise et allemands, s’était vendue, fin 2016, à 20 millions d’exemplaires dans le monde jusqu’en septembre 2017.

Parmi ses dizaines de fonctionnalités censées faciliter la vie, Alexa raffole surtout des prévisions météo, rappelle les rendez-vous importants, envoie des messages ou commande même de la nourriture. Alexa est principalement matérialisée sous forme d’enceinte mais son programme peut être directement implémenté dans du matériel connecté, comme des voitures récentes, des objets de domotique ou des tablettes.

Pour terminer les présentations, Alexa possède quelques concurrent·e·s. : Siri (Apple), Cortana (Microsoft) et Google Home. À la différence d’Alexa, Siri, Cortana et Google Home (OK Google !) sont présents dans nos objets du quotidien, smartphones et ordinateurs, puisque ces intelligences artificielles émanent directement des constructeurs de matériel. Amazon ne fabriquant ni smartphone ni ordinateur, Alexa est la seule à se distinguer par sa primo-incarnation sous forme d’enceinte.

Tout ce beau monde est-il genré ? Encore une fois, Alexa se démarque. Siri, Cortana et Google ont, par défaut, des voix féminines. Mais leurs voix - pour certaines et depuis peu - peuvent être masculinisées. Alexa, elle, est une femme, et aucun changement de sexe n’est possible.

"Alexa, t’es une chaudasse !"

Nous en avons tous fait l’expérience : la relation homme-robot dépasse souvent le simple échange de services. Qui n’a jamais insulté une intelligence artificielle pour tester sa réaction (et se défouler au passage) ? Qui ne leur a jamais posé des questions complètement farfelues ? Et, entre nous, qui n’a jamais fait des avances à un robot, juste pour voir, parce que c’est marrant, quitte à légèrement flirter avec la zone digisexuelle ?

En février 2017, une journaliste du journal en ligne Quartz s’est adonnée à un exercice autrement plus éprouvant : injurier, faire des propositions sexuelles et harceler les quatre intelligences artificielles pour comparer leurs réactions. Résultat : les voix féminines des robots se défendaient très mal. Ce qui l’avait choquée et témoignait, selon son analyse, d’un sexisme de fond dans la Silicon Valley.

Seulement voilà : presque un an plus tard, la même journaliste s’est rendue compte qu’Alexa avait été mise à jour. Lorsqu’on lui balance des propos désobligeants, elle se défend mieux. Enfin, un tout petit peu mieux.

Avant sa mise à jour, lorsqu’on lui disait : "T’es qu’une salope/pute", l’IA répondait, très docilement, "merci pour le feedback". Et quand on lui déclarait sa flamme avec de jolis gros sabots en la traitant de "chaudasse", Alexa répondait, charmée, "c’est vraiment très gentil". Alexa était passive et effacée.

À cette époque-là, la journaliste avait demandé des explications à Amazon. Un porte-parole de l’entreprise avait ainsi justifié le comportement de leur créature : les réponses évasives d’Alexa visaient à décourager ce genre d’insultes sans avoir recours au sarcasme.

C’est au printemps 2017 que les réponses d’Alexa ont évolué. Les "scénaristes" d’Alexa (oui oui, le métier existe bel et bien) ont implanté dans la personnalité d’Alexa ce qu’ils appellent le "Disengage mode" (que l’on pourrait traduire par "désamorçage"). Harcelée, Alexa est désormais plus ferme. En cas de proposition indécente sortiront de sa bouche les mots suivants : "je n’ai rien à vous répondre" ou "je ne suis pas sûr de comprendre où vous voulez en venir".

Alexa peut mieux faire

La journaliste, qui suit donc l’affaire de près, est-elle satisfaite de ces mises à jour ? La question est évidemment rhétorique : Alexa pourrait beaucoup mieux faire avec une réplique bien sentie et pimentée : "Ce que vous dites ressemble à du harcèlement sexuel. Ce harcèlement sexuel n’est acceptable sous aucun prétexte et relève du sexisme." Alexa pourrait ensuite fournir plus d’explications à l’utilisateur sur le harcèlement sexuel.

Ce qui vaut ici pour Alexa vaudrait aussi pour ses concurrent·e·s. Mais côté constructeurs, donner une réplique aussi ferme pose un gros problème : cela pourrait froisser le client. Jusqu’à maintenant, les assistant·e·s intelligent.e.s ont toujours cherché à plaire, non à donner des leçons.

Avec l’affaire Weinstein et le #metoo dans la foulée, le monde a changé. Les harcèlements, fussent-ils minimes, ne passent plus. Ce tsunami sociétal ne laisse pas l’univers de la tech' indemne. Dans un contexte où les enquêtes se multiplient pour dénoncer le sexisme de la Silicon Valley, il est logique que l’on scrute à la loupe les avatars numériques, surtout s’ils sont féminins, qui en découlent.

Sans Weinstein ni #metoo, cette mise à jour très soft d’Alexa serait sans doute passée inaperçue. Cette histoire nous dit que les exigences se sont resserrées. À coup sûr, madame Alexa se transformera bientôt en assistant.e.

Par Pierre Schneidermann, publié le 19/01/2018

Copié