Lors de sa conférence, Google a présenté une IA capable de discuter au téléphone avec un être humain

Analyse de photos, gestion de l’énergie, écriture d'e-mails et conversation naturelle : à la conférence annuelle Google I/O, l’IA commence à inquiéter.

© Warner Bros.

Le 8 mai 2018, pendant que les Français profitaient d’un jour férié ensoleillé, Google, de l’autre côté du monde, était calmement en train de changer une fois de plus le paradigme des interactions entre humain et machine. Sur la grande scène de l’amphithéâtre Shoreline, dans son fief de Mountain View, le conglomérat a ouvert les festivités de sa conférence annuelle, la Google I/O, avec une série de démonstrations ébouriffantes qui a confirmé ce que tout le monde ou presque avait déjà vu venir : Google veut devenir un fournisseur d’intelligence artificielle et bâtir tous ses futurs services autour de l’optimisation algorithmique.

Publicité

Après Facebook la semaine dernière, à l’occasion de la F8, l’ogre de Mountain View a donc dévoilé à son tour un arsenal de systèmes qui élèvent encore d’un degré la fournaise de la "course aux armements" technologiques entre les géants du Web. Et si, jusqu’alors, on avait encore le choix entre s’émerveiller des possibles et hausser les épaules en se plaignant du manque d’applications concrètes de l’apprentissage machine, cette fois-ci, une limite a été franchie. Avec sa cohorte d’innovations, Google clarifie la situation pour nous : désormais, le futur de l’algorithmie sera terrifiant pour les uns, merveilleux pour les autres, mais il est devenu impossible de rester vaguement circonspect.

Laissez faire la machine

Concrètement, ça donne quoi ? Une grosse dizaine d’annonces en une petite après-midi de conférences, durant lesquelles on aurait juré entendre les dirigeants de Google communiquer, à la manière des Pokémon, en répétant le même mantra : "intelligence artificielle". Le futur de Google News ? Un algorithme de sélection des informations pour vous sortir de votre bulle de filtrage en esquivant les fake news. Le nouveau Google Maps ? Des indications de direction en réalité augmentée, réalisées par des machines intelligentes.

Gmail ? Outre un nouveau design, la messagerie va maintenant vous suggérer le texte de vos e-mails pendant que vous les écrivez. Ça s’appelle Smart Compose et, vous l’aurez deviné, c’est bourré de machine learning. Vous en voulez encore ? Accueillez le nouveau Google Photos et ses superpouvoirs de colorisation et d’édition intelligente, tandis que l’assistant Google Lens, désormais intégré à l’application Photos, vous permettra bientôt de pointer votre téléphone à une affiche et sélectionner le texte à l’écran pour le copier ailleurs – très utile, par exemple, pour récupérer un mot de passe de wifi public – ou tout simplement d’analyser les objets autour de vous en temps réel du bout de votre objectif. Répétez après moi jusqu’à endormissement complet : IA, IA, IA…

Publicité

The Voice

Mais toutes ces innovations, aussi intéressantes soient-elles (les possibilités offertes par Google Lens, notamment, sont immenses), se sont vite effacées au profit du véritable clou du spectacle : la démonstration des nouvelles capacités de l’assistant Google. Encore en retard par rapport à ses concurrents Alexa ou Siri, Assistant s’offre six nouvelles voix toujours plus naturelles (dont celle de John Legend, excusez du peu), s’émancipe de la commande d’activation "Hey Google" et introduit des formules de politesse pour poser des questions, histoire d’encourager les utilisateurs à être sympa avec lui.

Car, oui, les êtres humains manquent de respect aux machines, et Google trouve ça problématique. Et si vous trouvez qu’on se laisse doucement porter vers un territoire un peu bizarre dans lequel la frontière entre humain et algorithme devient brumeuse, la suite va vous donner envie de débrancher immédiatement tous vos appareils électroniques.

Car ce qu’il s’est passé ce 8 mai sur la scène de la Google I/O tient presque de la magie : Duplex, le nouvel algorithme sorti des labos de Mountain View, a passé un coup de fil à un salon de coiffure pour prendre un rendez-vous. Tout se passe de manière fluide, l’IA réagit aux informations de son interlocutrice (elle demande un créneau qui n’est pas disponible et tente de s’accorder avec le salon pour une disponibilité). La voix féminine, naturelle et nuancée, se permet des interjections terriblement humaines – "hmmm" pour marquer l’hésitation, "hmm hmm" pour l’approbation, "and, hmmm", etc. — et marque le ton comme il faut à la fin des phrases selon les émotions exprimées.

Publicité

Il n’y a aucun truc. Rien dans les mains, rien dans les poches. Juste une conversation parfaitement banale entre un humain et une machine, en 2018. L’histoire ne dit même pas si la réceptionniste du salon a été mise au courant qu’elle venait de marquer l’histoire du machine learning. Écoutez l’extrait d’une minute, c’est littéralement stupéfiant. Le problème, c’est qu’immédiatement après l’émerveillement, c’est l’inquiétude qui tape à la porte avec sa horde de questions.

Le pour…

Comme l’a bien souligné Alex Cranz de Gizmodo, visiblement en PLS après la démonstration de Sundhar Pichai, l’idée que nous soyons arrivés si vite à des assistants vocaux capables de tenir des conversations naturelles est extrêmement déconcertante. D’un côté, cet outil, quand il sortira – pas tout de suite, précise Google –, va nous débarrasser de l’une des obligations les plus pénibles de la société de services : appeler des professionnels pour arranger des rendez-vous, demander des informations ou suivre l’avancement de son dossier.

Pensez à ces heures perdues dans les files d’attente de hotlines et de services clientèle. Pensez à votre dernière conversation avec un conseiller Pôle emploi. Imaginez un monde débarrassé de ça, dans lequel votre assistant virtuel s’occupera de tout. Imaginez le coup de main formidable que pourrait offrir Duplex aux personnes malentendantes ou ayant des difficultés à s’exprimer.

Publicité

Enfin, avant de hurler à l’avènement de Skynet, gardez à l’esprit que Duplex est conçu pour mener des conversations extrêmement courtes, à but précis, pas pour faire de l’humour ou débattre de sujets de société. Comme souvent avec les programmes de machine learning, l’algorithme impressionne dans une tâche particulière, mais manque probablement de polyvalence.

... et le contre

D’un autre côté, être pris de vertige à l’écoute de ces enregistrements est parfaitement normal. Lorsque la machine se met à imiter l’humain à la perfection, même pour une simple commande de pizza pepperoni, c’est tout le paradigme qui s’ébranle et se réorganise. La généralisation de Duplex dans nos téléphones peut redéfinir entièrement notre relation aux machines et instiller le doute dans nos cerveaux angoissés à chaque coup de téléphone. Après tout, quand l’imitation est parfaite, comment la distinguer de l’originale ? D’autre part, à l’heure de la désinformation et des programmes de falsification de vidéos comme FakeApp, un tel algorithme lâché dans la nature ne va pas arranger notre rapport à la réalité.

Enfin, l’approche même de Google, avec le développement effréné de ces systèmes, est symptomatique d’une philosophie propre à la Silicon Valley (qu’on appelle parfois le solutionnisme), obsédée par l’idée d’optimiser chaque seconde de l’existence en débarrassant les gens des interactions jugées superflues. Ce qui fait que Duplex est terrifiant, au fond, c’est qu’il rend palpable une vision affreuse : celle d’une humanité future réduite en servitude non pas par des machines super-intelligentes et conscientes, mais par une galaxie de petits algorithmes pas hyper futés mais très spécialisés, devenus tellement incontournables que les interactions quotidiennes entre homo sapiens, dans les commerces ou les services publics, auraient tout bonnement disparu.

Une servitude douce, molle et volontaire. Car après tout, en poursuivant cette logique, combien d’interactions quotidiennes sont réellement irremplaçables par des interfaces virtuelles, chatbots et algorithmes ? Très peu, rétorqueront les plus radicaux des solutionnistes, graphiques à l’appui. Supprimons-les, alors, et "gagnons du temps".

Problème : dans le paradigme capitaliste actuel, le temps dégagé, au lieu d’être consacré à des activités créatives, épanouissantes et gratifiantes, serait immédiatement mis au service d’objectifs de productivité toujours croissants. Les sociétés se résumeraient alors peut-être un jour à d’immenses archipels humains de travailleurs isolés dans le monde physique, dédiant leur temps libre à une vie sociale virtuelle (n’oublions pas que la VR ne sera plus la même dans la décennie prochaine) et perdant finalement toute notion de culture collective.

Réaffirmer notre indépendance

Avec Duplex, et plus généralement en mettant toutes ses ressources sur le machine learning, Google poursuit (sans s’en rendre compte ?) une politique aux accents résolument dystopiques tout en jurant vouloir le bien de ses utilisateurs, en leur épargnant des tâches ingrates. Le plus bizarre dans cette situation ? Google est simultanément en train de développer des systèmes pour… réduire notre temps passé devant les écrans de YouTube et d’Android au nom du "bien-être numérique", ce qui semble aussi logique que de voir Philip Morris vendre des Nicorette et faire des spots de prévention du cancer du poumon.

Comme souvent, la direction prise par l’innovation est le reflet des aspirations de ses créateurs. Et si, du côté de Mountain View, on est persuadé que le monde se porterait mieux sans cette foule de petits dialogues triviaux, pas dit que cette conception de l’utopie fasse l’unanimité. Avec les prochains développements de Duplex, il va falloir que nous nous posions la question, collectivement, de la place que nous souhaitons donner à ces technologies – et du niveau de dépendance que nous sommes prêts à accepter vis-à-vis d’elles et des multinationales qui les conçoivent.

Qu’il s’agisse des assistants vocaux, de la maison connectée ou de la réalité virtuelle, la question reste la même : à quel moment ces outils remettent-ils en cause notre indépendance en tant qu’espèce ? Ne levez pas les yeux au ciel, elle risque de se poser bien plus rapidement que prévu.

Par Thibault Prévost, publié le 10/05/2018

Copié

Pour vous :