Quand prédire, c’est gérer

Abstract

Distribution électronique Cairn.info pour La Découverte. © La Découverte. Tous droits réservés pour tous pays.La reproduction ou représentation de cet article, notamment par photocopie, n'est autorisée que dans les limites des conditions générales d'utilisation du site ou, le cas échéant, des conditions générales de la licence souscrite par votre établissement. Toute autre reproduction ou représentation, en tout ou partie, sous quelque forme et de quelque manière que ce soit, est interdite sauf accord préalable et écrit de l'éditeur, en dehors des cas prévus par la législation en vigueur en France. Il est précisé que son stockage dans une base de données est également interdit.

De la police scientifique à la traçologie

“…Ce qui frappe est l'absence d'une réflexion plus large dans une action de sécurité aux objectifs clairs : l'approche était purement technique ou statistique, fondée sur les outils informatisés. Après plusieurs années, une remise en cause de ces produits a été nécessaire, car, sans grande surprise, les prophéties ne s'étaient pas réalisées (Benbouzid 2018). Des effets de bord indésirables étaient également détectés.…”

“…Les doutes sur leur efficacité nous ramènent ainsi à plus de modestie et de respect des incertitudes. Beaucoup d'observateurs ont aussi alerté sur les risques d'insérer des biais culturels dans les algorithmes, amplifiés par des mécanismes d'apprentissages, qui conduisent à renforcer certaines formes de stigmatisation préexistante de populations particulières (Perry et al 2013 ;Benbouzid 2018 ;Simmler, Brunner et Schedler 2020). Ratcliffe (2009 : 2) synthétise de manière plus transparente, dans son modèle des « 4 P » en cascade, les conditions de cette prédictibilité et de son exploitation.…”

“…Une fois lancée, cette nouvelle s'est répandue rapidement et a été traduite un peu précipitamment par le développement de systèmes opérationnels. Les espoirs ont toutefois été quelque peu tempérés par des doutes sur la validité et l'efficacité des instruments mis sur le marché (Perry et al 2013 ;Benbouzid 2018 ;Simmler, Brunner et Schedler 2020). Les projets présentés ignorent par ailleurs totalement l'idée que la trace pourrait consolider les données de base sur lesquels les modèles opèrent.…”

Person of Interest as Media Technology of Surveillance: A Cautionary Tale for the Future of the National Security State With Diegetic Big Data Surveillance, Algorithmic Security, and Artificial Intelligence

“…Suspicion is also not equally distributed. Algorithms target individuals because of group statistics (Gandy 2012), intervene in the present because of past police records (Benbouzid 2018), feed on stereotypes present in national security discourses (Amoore 2009) and materialize discrimination. The automation of these relations of power does not make them any less real (Eubanks 2018).…”

Predictive analytics and governance: a new sociotechnical imaginary for uncertain futures

“…The mediating role of technical devices also implies that the type of knowledge obtained from predictive analytics varies according to their specificity, with consequences for the ways in which they make the future present. The systems used in predictive policing for example rely on patterns for the identification of future crimes (Benbouzid, 2018). These patterns stem from the association of specific algorithms with equally specific datasets (e.g.…”