L’IA peut vous faire dire absolument n’importe quoi, et c’est hyper problématique

IA quoi cette semaine ?

L’IA peut vous faire dire absolument n’importe quoi, et c’est hyper problématique

Image :

© mennovandijk/Getty

photo de profil

Par Julie Morvan

Publié le

"J’ai déjà écouté 10 fois le dernier album de Mac DeMarco !"

Salut c’est Julie, journaliste tech chez Konbini. Chaque semaine on se retrouve ici pour discuter tech – sans blague -, culture web et surtout IA. Rien à voir avec l’insuffisance aortique hein – mieux vaut préciser comme c’est le même sigle ; je parle bien évidemment de tous ces programmes d’intelligence artificielle qui fleurissent jour après jour. Kanye West qui chante“YMCA”, ChatGPT qui nous file la recette d’une bombe, on en voit des vertes et des pas mûres et ici, on épluche le meilleur de la récolte. Trêve de métaphore bancale, IA quoi cette semaine ?

À voir aussi sur Konbini

Allô, IA qui au bout du fil ?

Bon, on commence avec cette histoire improbable d’un coup de fil qui aurait pu très mal finir. Il y a quelques semaines, Jennifer DeStefano, une mère de famille vivant dans l’Arizona, reçoit un coup de fil glaçant. La voix de sa fille paniquée et en pleurs laisse place à celle d’un homme, bien plus menaçante. Il lui annonce avoir capturé sa fille et demande une rançon en échange.

Heureusement, Jennifer parvient très vite à vérifier où se trouve réellement son ado de 15 ans, et comprend qu’il s’agit d’une tentative de vishing, ou hameçonnage par téléphone. Mais celle-ci se révèle particulièrement redoutable car elle a fait appel à l’IA pour cloner la voix de sa fille et lui faire dire absolument n’importe quoi.

“C’était clairement sa voix, ses inflexions, sa façon de pleurer”, confie la maman à WKYTV. Aujourd’hui, de nombreux sites gratuits peuvent reproduire n’importe quelle voix à la perfection, simplement en se basant sur un extrait audio de trois secondes, précise Subbarao Kambhampati, un professeur d’informatique. L’un d’entre eux, Eleven Labs, avait même averti sur les dérives du voice cloning et durci ses conditions d’utilisation :

Chargement du twitt...

Pour éviter ce genre de mésaventure, on passe donc ses réseaux sociaux en privé dans la mesure du possible, on reste très méfiant face aux numéros de téléphone que l’on ne connaît pas et on n’hésite pas à décider d’un mot de passe avec ses proches pour vérifier rapidement leur identité lors d’un appel vocal ou vidéo.

Internet en bref

SNOOPY EST SUPER COOL

Toutes les micro-communautés se retrouvent sur TikTok, et la dernière qui nous a fait fondre, c’est celle des fans de… Snoopy. Sur son compte @snooopyiscool, une lycéenne canadienne partage ses edits de Snoopy sur des sons entraînants. Près de 500 000 internautes suivent ses créations de près, qui lui ont même valu une interview à retrouver dans Vulture – en anglais.

@snooopyiscool YOU CANT GROUND ME FOREVER IM FREE !!!!!! #fyp #snoopysister ♬ Can't Take My Eyes Off You - Original Extended Version - Boys Town Gang

CHATGPT DEVIENT DIRECTEUR DE PUBLICATION

Il y a quelques jours, Aris Kouts, consultant en innovation, a partagé sur Twitter deux nouveaux sites apparemment rédigés par des fanas de food et de tech : Cuisine-generation.fr et Tech-generation.fr. Des mines d’infos contenant déjà des centaines d’articles, et pourtant, aucun d’entre eux n’est le produit d’un·e humain·e. “Premier test de turing réussi, le site est ‘validé’ pour fonctionner dans Google News”, se réjouit même Ari. Dans un mois, on part tou·te·s au chômage.

Chargement du twitt...

MIDJOURNEY GALÈRE AVEC LES PHOTOS DE GENS QUI TIENNENT DES TRUCS

L’outil a beau être ultra-performant et faire passer le pape pour un mannequin Balenciaga supplément sainte doudoune, il a aussi ses ratés. Et de gros. Quand il s’agit d’imaginer des gens qui jouent aux jeux vidéo par exemple, Midjourney s’emballe et c’est pas beau à voir. Idem pour toutes les actions où il faut tenir des objets en général. Ou le sport :

Midjourney seems to really struggle with in-motion sports photos
by u/mammothofthemonth in midjourney

Le TikTok trippant du jour

Un exemple de création absolument hypnotique réalisée grâce au logiciel Deforum et l’outil Stable Diffusion – attention les yeux :

@neural.max Astral projection ❄️❄️❄️ #deforumstablediffusion #motion #visual #creepy #scary #horror #fyp #edit #transition ♬ Rave Harder Techno Bass - Mark Dekoda

Par ici pour les curieux·euse·s qui rêvent de transformer leur chat en mille-pattes.