En Chine, une appli de deepfakes (aussi efficace que flippante) fait scandale

En Chine, une appli de deepfakes (aussi efficace que flippante) fait scandale

Succès populaire sur l'App Store chinois, Zao insère votre visage dans vos films favoris. Et se garde le droit de l'exploiter.

Vous avez aimé abandonner vos droits à l’image pour vieillir votre visage avec FaceApp ? Vous allez a-do-rer Zao, le futur du grand n’importe quoi biométrique. Ce 2 septembre, la presse anglophone rapporte le succès fulgurant de cette application chinoise de deepfakes, devenue ces dernières heures la plus téléchargée sur l’App Store du pays (à l’heure actuelle, elle n’est pas disponible ailleurs). Sortie le vendredi 30 août, l’application a rencontré un succès fulgurant qui a causé un crash des serveurs de l’entreprise, explique le Guardian.

À voir aussi sur Konbini

Comme celui de FaceApp, le principe de Zao repose sur des filtres dynamiques. L’application ne vous propose pas, à l’instar de son homologue russe, de vieillir votre visage ou de vous faire “changer de sexe”, mais elle vous insère dans des séquences vidéo hollywoodiennes en transposant votre minois sur celui de la star d’un film. Outre des célébrités chinoises, Zao propose également aux utilisateur·rice·s de se prendre pour Leonardo DiCaprio ou Marilyn Monroe (ça fonctionne même avec des personnages d’animation, à en croire un utilisateur, Allan Xia, sur Twitter).

Pour le moment, seul un nombre limité de vidéos est disponible, ce qui laisse penser que l’algorithme derrière Zao a été spécifiquement entraîné sur un petit nombre de séquences pour parvenir à un degré de réalisme suffisant. Le résultat, bien qu’imparfait, est impressionnant, en partie parce que l’appli conserve les lignes du visage de l’acteur-cible et en profite pour “embellir” vos traits. On imagine sans peine la technologie transposée chez Netflix (“Rejoignez vos super-héros favoris”), voire chez Pornhub… Mieux : l’appli possède un générateur de mèmes intégré, pour un maximum de viralité.

Zao, persona non grata sur WeChat

Sauf que, comme avec FaceApp, il y a un “mais”. En 2019, on ne modifie pas son visage sans contrepartie. Comme FaceApp, Zao nécessite que vous lui soumettiez une photo de vous, qui sera ensuite envoyée sur les serveurs de l’entreprise, où elle sera intégrée à la vidéo que vous avez sélectionnée. Puisque votre visage sera animé, vous devrez également vous soumettre à quelques étirements faciaux devant votre caméra, que l’entreprise collectera.

Et comme avec FaceApp, les conditions générales d’utilisation (CGU) sont… éloquentes. Le site indépendant chinois RADII rapportait, dès samedi, que Zao s’octroyait le droit “irrévocable, permanent, transférable et re-licenciable” sur votre visage, ce qui semble désormais la norme pour toute application de deepfakes.

Cette fois-ci, la polémique autour de la protection de la vie privée a cependant eu des conséquences bien plus importantes : samedi, Zao annonçait sur la plateforme Weibo une mise à jour de ses CGU pour limiter l’exploitation des photos et donner plus d’importance au consentement de l’utilisateur. Dimanche, le média d’État chinois Global Times donnait la parole à un avocat en faveur d’une plus stricte régulation des applications mobiles. Enfin, ce lundi 2 septembre, le géant des télécoms Tencent annonçait qu’il interdisait Zao sur sa messagerie WeChat.

Pourquoi une telle panique dans le pays de la reconnaissance faciale ? En partie car Zao appartient à MOMO Inc., une entreprise cotée à la Bourse de New York connue pour avoir lancé, en 2014, une application de rencontres transformée en service de livestreaming. En décembre dernier, une faille de sécurité exposait les mots de passe et les données de 30 millions de ses utilisateur·rice·s. La base de données était en vente sur le Dark Web chinois pour environ 30 dollars, rapporte TechNode.