En poursuivant votre navigation sur ce site, vous acceptez l'utilisation de nos cookies afin de vous offrir une meilleure utilisation de ce site internet. Pour en savoir plus et paramétrer vos cookies, cliquez ici.

Pour lutter contre le revenge porn, Facebook veut… vos photos intimes

En Australie, le réseau social teste un outil contre le revenge porn, qui implique que les utilisateurs lui transmettent leurs photos compromettantes.

© Classen/ullstein bild via Getty Images

De l’autre côté du monde, Facebook et le gouvernement australien se sont alliés pour lutter contre le revenge porn, fléau de la culture Internet qui consiste, rappelons-le, à balancer sans retenue sur le Web les photos intimes de son partenaire pour se venger d’avoir été blessé, quitte à littéralement foutre en l’air la vie de quelqu’un que l’on a un jour aimé. Si les gouvernements et les géants du partage de photos en ligne, de Google à Instagram, ont commencé à réagir pour enrayer la prolifération de ce cancer de la société de l’image, Facebook et le commissaire australien à la Cybersécurité viennent de lancer un nouveau programme à l’approche… déroutante.

Comme le rapporte Engadget, Facebook dévoilait déjà en avril un arsenal d’outils visant à empêcher la propagation d’une image une fois celle-ci postée sur sa plateforme. Si la victime reconnaissait une photo qu’elle voulait voir supprimée du réseau, celui-ci l’indiquait à son algorithme de reconnaissance d’image afin qu’il bloque sa diffusion, que ce soit via les fils d’actualité, sur Instagram ou dans les conversations instantanées de Messenger. Une belle manière de mettre à contribution sa puissante intelligence artificielle, qui compte parmi les plus évoluées de la planète.

"Ils ne stockent pas l’image"

Mais le 7 novembre, le réseau social a présenté un nouveau système qui ambitionne de faire encore plus fort : empêcher les images de revenge porn d’être postées sur ses plateformes, ne serait-ce qu’une seule fois. Et c’est là que ça devient un peu étrange : puisque l’entreprise de Mark Zuckerberg n’a pas encore développé une intelligence artificielle (IA) capable de deviner quelle photo est concernée par le revenge porn, cela signifie que les utilisateurs doivent eux-mêmes prendre les devants pour lui indiquer quelles photos bloquer avant leur diffusion. Comment ? En contactant le bureau du commissaire australien à la Cybersécurité, qui vous fera remplir un questionnaire et notifiera Facebook. Tout ce qu’il vous reste ensuite à faire, c’est… d’envoyer directement au réseau social la photo que vous ne souhaitez jamais voir apparaître. D’accord. Pourquoi pas.

Si l’idée d’offrir volontairement une photo de vous en tenue d’Ève à une entreprise dont le fonds de commerce est la monétisation de vos données personnelle vous rebute, félicitations, c’est tout à fait justifié. Mais c’est pourtant la seule manière pour que l’IA du réseau social puisse empêcher a priori ladite photo et ses clones de se propager sur sa plateforme. La logique est imparable. Rassurez-vous, le gouvernement australien précise que chez Facebook, "ils ne stockent pas l’image, ils stockent le lien […] de manière à ce que, lorsque quelqu’un tente de partager une image avec la même empreinte numérique ou valeur de hash, il ne le puisse pas". Okay, mais désolé, c’est toujours non.

Tromper la vigilance des algorithmes, un jeu d’enfant

Car voilà : s’il est difficile de juger de l’efficacité du programme dès son lancement, on peut néanmoins douter de ce que l’on connaît déjà. Si les déclarations du gouvernement australien sont justes, le système de Facebook va générer et assigner à votre photo une valeur de hash, ou hash value, qui va lui fournir une empreinte digitale unique en évitant (théoriquement) de la stocker sur ses serveurs. Si la personne à qui vous avez envoyé une photo de vous à poil tente de poster cette image sur Facebook, cela échouera effectivement. Mais voilà le problème : tromper la vigilance d’un algorithme de reconnaissance d’image en altérant les métadonnées d’une photo est monnaie courante, non seulement chez les hackers, mais aussi chez les activistes de la vie privée… et ceux qui distribuent ces photos volées.

Il leur suffit pour ce faire de générer ce que l’on appelle une "image contradictoire" (adversarial image) en ajoutant par exemple un watermark, en appliquant la fonction "miroir" à la photo original, en modifiant les métadonnées de la photo, voire, un peu plus complexe (mais pas trop), en ajoutant des données planquées dans l’image même. Ce dernier procédé, qui porte le nom de stéganographie, pousse le logiciel de reconnaissance d’image à croire que cette photo de vous dans une pose suggestive est celle d’un animal, d’une voiture, ou même pas une photo du tout (oui, ça a été testé, et même l’IA de Google tombe dans le panneau).

Et malheureusement, des logiciels d’altération d’image gratuits et en ligne se trouvent dans tous les coins des Internets. C’est tellement simple, en fait, que c’en est presque déprimant. Et Facebook le sait pertinemment. Soit l’entreprise a une confiance aveugle en son système, soit elle se sert de cette initiative pour ne pas être taxée de passivité face au revenge porn. C’est toujours mieux que rien.

Science, tech, culture numérique et galéjades. Internet est mon église.