Quand Google utilise le tag "gorilles"... pour identifier des Noirs

"Gorille", c'est le terme qui est apparu pour taguer le visage de Noirs-Américains sur un cliché posté via l'application Google Photos. L'entreprise a répondu à l'indignation de l'internaute concerné.

Voilà une mésaventure dont Google se serait bien passé... Sur la dernière version de sa nouvelle application photos, chargée de suggérer aux utilisateurs des identifications intelligentes de lieux, de personnes ou d'objets, un tag pour le moins dérangeant est apparu sur la photo d'un internaute afro-américain.

Alors qu'il s'apprêtait à poster une photo de lui aux côtés d'une amie elle aussi noire, un tag est suggéré par l'algorithme de l'application pour légender le cliché : "gorillas"... Soit "gorilles". Un incident dont l'internaute s'est insurgé, le signalant dans la foulée sur son compte Twitter et joignant à son message une capture d'écran.

Publicité

Google Photos, vous êtes tarés. Mon amie n'est pas un gorille.

Publicité

2000 retweets plus tard, Yonatan Zunger, haut responsable de Google, a immédiatement présenté ses excuses :

Cet incident est assez haut dans ma liste des bugs qu'on ne veut jamais voir arriver. J'en ai des frissons.

Publicité

Pour se justifier, le cadre de l'entreprise a attribué l'erreur à l'intelligence artificielle de l'application, qui n'est visiblement pas encore au point. Et pour éviter toute polémique, Yonatan Zunger a indiqué que même des visages blancs avaient été identifiés comme étant des animaux.

"Plus de gens de couleur dans leurs équipes"

"Agréablement surpris" par la réactivité de Google, l'internaute Jacky Alcine a raconté à BFMTV.com que "le problème a été réglé en moins d'une journée. Une dizaine d'heures après, le tag avait disparu. Et encore, je pense que cela aurait été plus rapide si j'avais signalé le problème en journée, et non pas en soirée." Avant de conclure :

Je pense qu'avoir plus de gens de couleur dans leurs équipes pourrait permettre de prévenir ce genre d'incident, notamment lorsqu'ils programment les algorithmes.

Publicité

Un souhait de diversité vivement salué par l'homme de Google, toujours sur les réseaux :

Au fait, j'ai aimé votre citation dans l'article de la BBC . Gros +1 pour ce que vous avez dit à propos de la diversité intersectionnelle.

Tout est bien qui finit bien.

Par Rachid Majdoub, publié le 02/07/2015

Copié

Pour vous :