« Scores de suspicion » pour prédire qui doit faire l’objet d’un contrôle, profilage psychologique des chômeur·ses, estimation de leur qualité par un « score d’employabilité », orientation automatisée des personnes au RSA, « score de fragilité » pour trier nos aîné·es… Ce sont désormais des pans entiers de l’accompagnement social qui sont automatisés. En creux, se dessine le fantasme d’une gestion algorithmique des populations.

Depuis 2021, La Quadrature du Net a entamé, aux côtés de collectifs de lutte contre la précarité, un travail de documentation et d’analyse des algorithmes de contrôle social utilisés au sein de notre système social. Ce travail a montré qu’au-delà des questions de notation, de contrôle et de surveillance, c’est toute une politique de numérisation forcée qui se met en place, au détriment du soutien aux plus défavorisé·es.

Mise en place sous couvert « d’efficacité gestionnaire » et de « lutte contre la fraude sociale », cette numérisation à outrance a des conséquences humaines dramatiques. On assiste à une précarisation accentuée des bénéficiaires des administrations sociales, à l’aggravation du non-recours aux aides sociales, à de nouvelles formes de discriminations des plus précaires, à une déshumanisation de l’accompagnement social et une dégradation des conditions d’accueil (pour les allocataires) et de travail (pour les agent·es des administrations concernées).