C’est une affaire aussi surprenante que complexe que vient de relater le New York Times. Mark, dont le nom de famille a été volontairement omis, est un ancien ingénieur software de San Francisco et père d’un jeune garçon. En 2021, son fils se plaint de douleurs au pénis tandis que ce dernier semble avoir enflé.
À voir aussi sur Konbini
À la demande d’une infirmière, il prend une photo de l’organe en question pour l’envoyer à une équipe de médecins afin qu’ils examinent à distance le problème en question. Deux jours plus tard, Mark reçoit une notification : son compte Google a été désactivé du fait d’un « contenu préjudiciable » constituant une « grave violation des politiques de Google » en plus d’être potentiellement « illégal ».
Une IA anti-pédopornographie
En 2018, Google avait annoncé mettre en place un outil de modération géré par intelligence artificielle pour détecter et supprimer immédiatement les contenus de pédopornographie et d’abus sexuels sur les enfants. La photo du pénis de son jeune fils est donc directement tombée sous le couperet de cette IA qui l’a supprimée, en plus de sanctionner le compte en question.
Sur le même sujet...
Mark voit donc son compte Google entièrement supprimé, incluant son Drive, son Google Agenda, ses contacts ainsi que tous les autres services sur lesquels il s’était inscrit avec cette adresse. Mais l’affaire ne s’arrête pas là.
Dix mois plus tard, il reçoit même une lettre de la police de San Francisco qui lui indique qu’un mandat de perquisition avait été émis (à l’époque) sur Google pour avoir accès à la photo, mais également à toutes ses informations personnelles comme sa localisation, ses documents, ses autres photos, etc. L’enquête conclut finalement « qu’aucun crime n’a eu lieu » selon les informations du Times.
Mark a expliqué au New York Times, qu’après avoir reçu le rapport de police, il l’a envoyé à Google pour essayer de récupérer son compte, sans succès.
Une politique zéro tolérance
Interrogée par le Times, Claire Lilley, responsable des opérations de sécurité des enfants chez Google, a expliqué la position de l’entreprise sur cette affaire :
« Nous reconnaissons qu’à l’ère de la télémédecine et en particulier du Covid, il a été nécessaire pour les parents de prendre des photos de leurs enfants afin d’obtenir un diagnostic. »
Lilley explique que les examinateurs ont été prévenus sur la potentielle nature médicale de certaines photos. Toutefois, dans l’image uploadée par Mark, aucun problème médical n’aurait été observé, sans préciser si des médecins ont pu avoir leur mot à dire.
De plus, une vidéo hébergée sur le cloud de Mark, six mois auparavant, montrait un jeune enfant au lit avec une femme nue. Mark explique au Times qu’il s’agissait probablement d’un moment « intime » avec sa femme et son fils jouant ensemble qu’il avait capturé, sans penser que la vidéo serait vue par autrui.
« Nous nous sommes réveillés un matin. C’était une belle journée avec ma femme et mon fils et je voulais enregistrer le moment […] Si seulement nous avions dormi en pyjama, tout cela aurait pu être évité. »
Un porte-parole de Google a déclaré que la décision de suspendre le compte de Mark était maintenue, réaffirmant au passage la politique de lutte mise en place par la société depuis environ quatre ans contre ces contenus « odieux ».
Mark garde encore espoir de récupérer les informations stockées sur son compte, notamment avec l’aide de la police de San Francisco qui lui aurait assuré son soutien et conservé ses données sur clé USB, selon ses dires.
