AccueilArchive

Pour lutter contre le revenge porn, Facebook veut… vos photos intimes

Publié le

par Thibault Prévost

Pour lutter contre le revenge porn, Facebook veut… vos photos intimes

“Ils ne stockent pas l’image”

Mais le 7 novembre, le réseau social a présenté un nouveau système qui ambitionne de faire encore plus fort : empêcher les images de revenge porn d’être postées sur ses plateformes, ne serait-ce qu’une seule fois. Et c’est là que ça devient un peu étrange : puisque l’entreprise de Mark Zuckerberg n’a pas encore développé une intelligence artificielle (IA) capable de deviner quelle photo est concernée par le revenge porn, cela signifie que les utilisateurs doivent eux-mêmes prendre les devants pour lui indiquer quelles photos bloquer avant leur diffusion. Comment ? En contactant le bureau du commissaire australien à la Cybersécurité, qui vous fera remplir un questionnaire et notifiera Facebook. Tout ce qu’il vous reste ensuite à faire, c’est… d’envoyer directement au réseau social la photo que vous ne souhaitez jamais voir apparaître. D’accord. Pourquoi pas.
Si l’idée d’offrir volontairement une photo de vous en tenue d’Ève à une entreprise dont le fonds de commerce est la monétisation de vos données personnelle vous rebute, félicitations, c’est tout à fait justifié. Mais c’est pourtant la seule manière pour que l’IA du réseau social puisse empêcher a priori ladite photo et ses clones de se propager sur sa plateforme. La logique est imparable. Rassurez-vous, le gouvernement australien précise que chez Facebook, “ils ne stockent pas l’image, ils stockent le lien […] de manière à ce que, lorsque quelqu’un tente de partager une image avec la même empreinte numérique ou valeur de hash, il ne le puisse pas”. Okay, mais désolé, c’est toujours non.

Tromper la vigilance des algorithmes, un jeu d’enfant

Car voilà : s’il est difficile de juger de l’efficacité du programme dès son lancement, on peut néanmoins douter de ce que l’on connaît déjà. Si les déclarations du gouvernement australien sont justes, le système de Facebook va générer et assigner à votre photo une valeur de hash, ou hash value, qui va lui fournir une empreinte digitale unique en évitant (théoriquement) de la stocker sur ses serveurs. Si la personne à qui vous avez envoyé une photo de vous à poil tente de poster cette image sur Facebook, cela échouera effectivement. Mais voilà le problème : tromper la vigilance d’un algorithme de reconnaissance d’image en altérant les métadonnées d’une photo est monnaie courante, non seulement chez les hackers, mais aussi chez les activistes de la vie privée… et ceux qui distribuent ces photos volées.
Il leur suffit pour ce faire de générer ce que l’on appelle une “image contradictoire” (adversarial image) en ajoutant par exemple un watermark, en appliquant la fonction “miroir” à la photo original, en modifiant les métadonnées de la photo, voire, un peu plus complexe (mais pas trop), en ajoutant des données planquées dans l’image même. Ce dernier procédé, qui porte le nom de stéganographie, pousse le logiciel de reconnaissance d’image à croire que cette photo de vous dans une pose suggestive est celle d’un animal, d’une voiture, ou même pas une photo du tout (oui, ça a été testé, et même l’IA de Google tombe dans le panneau).
Et malheureusement, des logiciels d’altération d’image gratuits et en ligne se trouvent dans tous les coins des Internets. C’est tellement simple, en fait, que c’en est presque déprimant. Et Facebook le sait pertinemment. Soit l’entreprise a une confiance aveugle en son système, soit elle se sert de cette initiative pour ne pas être taxée de passivité face au revenge porn. C’est toujours mieux que rien.

À voir aussi sur Konbini :