Les géants de la tech entrent en guerre contre les “deepfakes”

Rendre plus facilement détectables des vidéos truquées par des outils d’intelligence artificielle : tel est l’objectif du “deepfake” challenge, lancé jeudi par des entreprises de la tech et des universitaires.

Apparues il y a un an et demi dans le porno et grâce à l’IA, les “deepfakes”, des vidéos truquées qui font dire ou faire n’importe quoi à n’importe qui (Rémi Gaillard était en avance sur son temps) sèment la panique. Utilisées à mauvais escient, elles peuvent devenir de redoutables armes de manipulation et de désinformation.

Exemple qui avait fait date, cette vidéo de Mark Zuckerberg, postée sur Instagram, qui n’était en réalité pas du tout le patron de Facebook.

Une lutte contre la désinformation

Financée à hauteur de 10 millions de dollars par Facebook, cette initiative vise à lutter contre un phénomène perçu comme une menace grandissante à l’intégrité de l’information en ligne.

Le projet, soutenu par Microsoft et un consortium sur l’intelligence artificielle qui réunit plusieurs géants de la tech, dont Apple, Amazon et IBM, fait appel à des universitaires issus d’institutions comme le prestigieux Massachusetts Institute of Technology (MIT) ou l’université d’Oxford.

“L’objectif de cette initiative est de créer une technologie que tout le monde pourra utiliser pour détecter les vidéos modifiées par des outils d’intelligence artificielle et dont le but est d’induire en erreur les usagers“, a expliqué le directeur technique de Facebook Mike Schroepfer.

“Pourtant, le secteur ne possède pas de base de données ou d’outil de référence pour les détecter“, a-t-il ajouté.
Facebook a indiqué que son financement serait destiné à des partenariats de recherche et à des prix. L’entreprise dirigée par Mark Zuckerberg a précisé qu’elle participerait à la compétition, mais n’accepterait pas de rétribution.

Pour Philip Torr, professeur à Oxford et participant au projet, de nouveaux outils sont “nécessaires aussi vite que possible pour détecter ces contenus médiatiques manipulés”.

“La mise en ligne de ces contenus, pour créer des théories du complot complètement fausses et manipuler les gens à des fins politiques, est devenue un problème d’importance mondiale. C’est une menace fondamentale à la démocratie“, a estimé M. Torr dans un communiqué.

Article écrit en collaboration avec l’AFP