© Arte

Un documentaire d’Arte dévoile les dessous de la police "prédictive"

Prédiction des lieux de crimes ou des délinquants potentiels, on vous explique tout.

© Arte

Aussi science-fictionnesque qu’elle puisse paraître, la prédiction des crimes et des délits avec des outils algorithmiques existent déjà dans certaines villes du monde. Ce n’est pas un scoop récent : on en parle dans la presse depuis quelques années (ce qui a remis Minority Report au goût du jour chez beaucoup de monde). Et si ce n’est pas un secret, c’est aussi parce que les autorités qui les utilisent ne s’en cachent pas et déroulent ouvertement leur argumentaire.

Publicité

Pour ceux qui auraient loupé le coche, le documentaire allemand Prédire les crimes de Monika Hielscher et Matthias Heeder, coproduit et diffusé par Arte (disponible ici jusqu’au 31 octobre 2018), entend faire le point sur la question en 1h26. Il constituera un excellent point de départ de réflexions aussi moroses que celles suscitées par le visionnage d’un épisode de Black Mirror.

L’enquête nous emmène dans trois pays : les États-Unis, l’Angleterre et l’Allemagne. Avec des méthodes différentes, certaines des équipes de police locales (pas toutes, bien sûr) brassent et tentent de faire parler des millions de données pour essayer de "prédire" soit les lieux où de futurs délits pourraient être commis, soit le comportement possiblement déviant de certains individus ciblés par les algorithmes.

Pour le premier type de prédictions, direction l’Allemagne avec le logiciel PredPol, qui permet, en fonction des localisations des cambriolages passés, d’anticiper les prochains larcins. Pour le second, destination l’État de Chicago et Londres avec la présentation respectivement des systèmes "SSL" et "Matrix". Le premier permet notamment de donner une note, de 0 à 500, sur la potentielle violence d’un individu.

Publicité

Puisqu’on est sur Arte, le documentaire fait un récapitulatif de toutes les critiques que l’on peut adresser à ces outils, en interviewant universitaires, militants ou… victimes (dans ce cas, deux Noirs pointés du doigt à tort par les logiciels). Opacité des algorithmes, prédictions erronées, biais racistes, inefficacité… La liste des récriminations est longue, inéluctablement.

À la clé, cette grande question philosophique : voulons-nous vivre dans une société de surveillance basée sur des modèles mathématiques au mieux imparfaits, au pire biaisés, et au risque de "fabriquer" des délinquants ? Évidemment non, disent les détracteurs. Quant aux policiers, malheureusement, on ne saura pas vraiment ce qu’ils en pensent, leurs témoignages consistant principalement à faire la démonstration de leur joujou.

On regrettera deux grands absents : la Chine, à peine évoquée, et qui pourtant rêve d’une société 100 % surveillée, et au moins quelques acteurs de la Silicon Valley, qu’il s’agisse des maîtres proclamés de la surveillance (on pense à Palantir) ou, plus prosaïquement, des maîtres de nos données, ces Facebook, Google et Amazon qui nous accompagnent au quotidien, qui connaissent nos vies, alors que nous les connaissons si peu.

Publicité

Par Pierre Schneidermann, publié le 03/10/2018

Copié

Pour vous :