Le réseau social vient d’annoncer la mise à jour et le déploiement mondial de son outil de prévention du suicide, capable de deviner votre état émotionnel. Inquiétant.
À voir aussi sur Konbini
Voilà, nous y sommes : Facebook va donc déployer dans le monde entier un outil algorithmique d’analyse de l’état émotionnel humain capable de reconnaître vos velléités auto-mutilatrices, de venir vous demander comment vous vous sentez le cas échéant, d’appeler vos amis à la rescousse pour les alerter sur votre état et, si rien ne s’améliore, de contacter les services appropriés avant que vous ne commettiez un acte désespéré.
Une sorte de garde-fou robotisé, testé depuis mars aux États-Unis, qui aurait été utilisé pour appeler les secours plus d’une centaine de fois le mois dernier, selon l’annonce de Facebook.
Voilà comment ça fonctionne, toujours selon les mots du réseau social :
“Cette approche utilise une technologie de reconnaissance de motifs pour aider à identifier les posts et les directs vidéo susceptibles de mettre en lumière des pensées suicidaires. […]
Nous nous basons sur des signaux, comme le texte utilisé dans le post et les commentaires (par exemple, des commentaires comme ‘Tu vas bien ?’ ou ‘Est-ce que je peux t’aider ?’ peuvent être de nets indicateurs). Parfois, nous avons réalisé que le système a signalé des vidéos qui normalement ne l’auraient pas été.”
Reconnaissance textuelle, vocale et faciale, prise de décision autonome… pas de doute, on est bien dans de l’IA, même si des humains sont encore à la barre pour passer en revue les contenus de la plateforme.
Zuckerberg, apôtre de l’IA
À partir d’aujourd’hui, donc, le dispositif – dont la vigilance vient d’être aiguisée par une mise à jour, précise Facebook — débarque donc dans le monde entier, à l’exception de l’Union européenne, dont les lois de protection de la vie privée ne permettent pas la surveillance de données personnelles d’utilisateurs par une IA dite “propriétaire” au fonctionnement à peu près opaque.
Une nouvelle opportunité pour Facebook et Zuckerberg de répandre la bonne parole des défenseurs de l’intelligence artificielle, tout en redorant l’image de l’entreprise, sérieusement écornée dernièrement après les élections américaines de 2016 et les révélations sur ses expériences de psychologie sociale à grande échelle via le fil d’actualités.
Car au fil des années, le PDG de Facebook s’est positionné de plus en plus nettement dans le camp des pro-IA, et n’hésite plus à proclamer haut et fort son optimisme pour le futur de nos amis les algorithmes. Ainsi, pendant que Guy Rosen, responsable de produit chez Facebook, signait le post de blog annonçant le déploiement de l’outil, son PDG se félicitait personnellement, sur sa page Facebook, de voir qu’avec “toute la peur qui entoure la dangerosité de l’IA dans le futur, il est bon de nous rappeler comment l’IA est aujourd’hui en train de sauver des vies.”
N’en déplaise au camp d’en face (celui des flippés) et son chef de file Elon Musk, qui avait pris soin d’expliquer au monde entier, lors d’une escarmouche sur Twitter, que la compréhension du PDG de Facebook des IA était “limitée”. Zuckerberg, lui, continue sa croisade. En oubliant un peu vite les questions éthiques qu’implique le développement d’une IA capable de surveiller votre activité pour vérifier si vous allez bien.
